¿Artificial? Sí. ¿Inteligentes? No tanto

Esto es lo que sabemos sobre el uso de la IA en Venezuela como artillería de propaganda, por qué es usada y cómo puede ser detectada

El rápido desarrollo de la Inteligencia Artificial, como recurso para generar contenidos, está siendo aprovechado en todo el mundo por profesionales, comunicadores, influencers, así como por desinformantes y propagandistas. Venezuela no ha quedado fuera de esa tendencia, pero la sociedad civil puede hacer frente a estos mensajes artificiales que inundan las redes sociales al comprender el problema de la desinformación y las características de estas técnicas que pueden ser novedosas, pero no tan inteligentes como para engañar a una ciudadanía informada.

Gracias a una alerta de nuestra comunidad, se identificó un video de un noticiero en inglés que estaba circulando como anuncio pago en Youtube. Este video explica la supuesta recuperación económica de Venezuela a través de la ocupación hotelera para el asueto de Carnaval 2023.

El video está publicado en un canal de nombre “House of News Español”. Un aparente medio de comunicación creado en enero del 2023 que publica videos en inglés con subtítulos en español y con presencia también en Facebook (creado el 2 de febrero de 2023 y administrado desde Venezuela).

El video que se detectó a través de los anuncios, había acumulado 110.000 visualizaciones (provenientes del anuncio pago) para el 5 de febrero de 2023, cuando Cazadores de Fake News recibió la alerta. En el canal hay colgados cuatro capítulos del supuesto noticiero con diferentes presentadores, tres de ellos con contenido sobre Venezuela.

Para conocer más sobre este “nuevo noticiero”, se tomó una captura de pantalla con la imagen del presentador para hacer una búsqueda inversa de su rostro en Pimeyes.com que arrojó como resultado decenas de fotos casi idénticas.

El presentador del capítulo del noticiero titulado “Venezuela y su economía ¿Mito o realidad?”, que habla sobre la ocupación hotelera para la temporada de Carnavales 2023, se llama Noah y es parte del catálogo de presentadores de Synthesia.io. Esta web de “medios sintéticos” provee servicios de creación de videos con inteligencia artificial a través de un guión escrito por el cliente, por un precio de 30 dólares mensuales.

“Estos avatares se basan en imágenes de video de actores reales, con su consentimiento. Las secuencias de video original son procesadas por nuestro sistema de inteligencia artificial, que crea nuevos vídeos a partir del texto”.

Synthesia.io

Noah, Emma, Matt y Daren, los cuatro presentadores de House Of News Español, forman parte de una base de datos de más 90 avatares que pueden hablar en —por lo menos— 120 idiomas con perfecta sincronización de labios. Solo basta que el cliente cargue su guion a la página para que el sistema genere un video del presentador leyendo el texto a cámara.

Un avatar de nombre “Alex”, generado con IA usando Synthesia, fue usada como presentadora de un video ilustrativo por Cazadores de Fake News

“El sistema te permitirá también incluir subtítulos, imágenes, formas, bandas sonoras, vídeos y demás elementos gráficos como parte del montaje. Por último, le das clic a generar tu vídeo y en unos minutos lo tendrás listo”.

Informacion.es

No es la primera vez que se usa la IA en operaciones de propaganda venezolanas

Al igual que este noticiero que no existe conducido por presentadores que no existen, para marzo de 2021 Cazadores de Fake News ya había identificado operaciones de influencia favorables a los intereses del gobierno de Nicolás Maduro en las que utilizaron imágenes de rostros sintéticos, estáticas, generadas con inteligencia artificial.

Desde entonces, se han identificado varias centenas de cuentas falsas en Twitter cuyas imágenes de perfil fueron generadas con el uso de inteligencia artificial. Algunas fueron usadas en diversas etapas de la operación de influencia a favor de Alex Saab; otras presuntamente asociadas a una empresa de asesoría comunicacional panameña, que estuvo involucrada en el uso de cuentas falsas en campañas electorales en Venezuela, Bolivia, República Dominicana y Panamá y un lote de varias centenas de cuentas que usaron rostros falsos fueron usadas en el despliegue de operaciones de influencia en Honduras y Guatemala.

Las características comunes de las cuentas falsas con fotos estáticas de rostros creados con inteligencia artificial son las asimetrías en los accesorios como zarcillos o partes del cuerpo como las orejas, la presencia de logos indescifrables en gorras y franelas, fondos genéricos indeterminados o deformidades parecidas a personas en el contexto de la fotografía.

Además, al identificar lotes de cuentas sospechosas se pueden comparar las posiciones de los iris de los ojos de cada una que suelen ubicarse en la misma posición cuando los rostros son generados mediante el uso de Redes Generativas Adversarias (GAN), un tipo de inteligencia artificial usado en páginas de acceso libre donde se pueden generan rostros sintéticos como thispersondoesnotexist.com.

¿Por qué usar noticieros y personas falsas?

Los principales retos de las operaciones de influencia y de la desinformación son: aumentar la capacidad para impulsar sus narrativas e imponerlas en las plataformas digitales; así como justificar el origen de la desinformación, haciéndola pasar como información que proviene de una fuente real y que valida y apoya sus narrativas, sin ser originada abiertamente por los mismos desinformantes.

Para esto, se valen de la creación y el uso de fuentes falsas de información que publican contenido desinformativo y de propaganda y que eventualmente debe ser amplificado en redes sociales por la acción de usuarios para que se vuelva viral. En ocasiones, la amplificación se lleva a cabo de forma coordinada, mediante la intervención de cuentas dedicadas a compartir los contenidos en redes sociales que ayudan a darle mayor visibilidad al tema que quiere difundirse, que —a veces— pertenecen a usuarios humanos reales pero que otras veces son redes de cuentas falsas, manejadas por un operador o por un grupo pequeño de operadores.

Para darle apariencia de veracidad a estas cuentas falsas, sus operadores las hacen pasar por personas reales, en ocasiones usando fotos robadas de cuentas de usuarios reales en redes sociales como fotos de perfil, o bien usando rostros sintéticos generados con IA. En cualquier caso, el objetivo es brindarle mayor credibilidad a la cuenta falsa, diseñando una apariencia artificial con el uso de técnicas de engaño.

En el caso de House of News hay una mezcla de las dos técnicas. Fue creada una falsa fuente de información —el falso noticiero— y se usó IA para darle mayor credibilidad al mensaje, aportándole rostros humanos a los videos a través de los avatares de Synthesia.

Los títulos de los videos publicados en “House of News Español” sirven como un ejemplo perfecto de cómo son usadas fuentes y cuentas falsas para generar desinformación “semilla” que luego es repetida por influenciadores y medios cercanos al gobierno de Maduro, valiéndose de citas a terceros que, en este caso, no existen: “Venezuela y su economía ¿Mito o realidad?”, retoma la narrativa de “Venezuela se arregló”; “La Serie del Caribe Venezuela 2023 y lo que generó”, acentúa la idea de que Venezuela recibió altos ingresos por el evento y se nota su recuperación económica; y ¿Cómo gastó 150 millones Juan Guaidó?, es propaganda encubierta en contra de líderes de la oposición muy similar a la difundida en otros canales que también pagan publicidad en YouTube.

Esta táctica quedó en evidencia cuando, con el paso de los días, el video “Venezuela y su economía ¿Mito o realidad?” se hizo viral en TikTok y personalidades cercanas al gobierno de Maduro empezaron a impulsarlo en otras redes sociales.

Luego, otro de los videos de House Of News, el presentado por el avatar “Daren”, llegó al canal del Estado Venezolana de Televisión (VTV) como ejemplo de la “percepción internacional” del éxito económico que representó para Venezuela la realización de la Serie del Caribe en el recién estrenado estadio Monumental Simón Bolívar de La Rinconada (Caracas), un claro intento por reforzar la narrativa de que “Venezuela se arregló”, a través del video de un supuesto noticiero norteamericano cuya página de Facebook solo es administrada desde Venezuela.

Propaganda encubierta impulsada por pagos

En agosto del 2022, Cazadores de Fake News denunció que en Venezolana de Televisión se aumentaba el alcance de videos propagandísticos que pagaban anuncios en Youtube, al comentarlos o usarlos como insumos en sus programas.

En ese momento, el comentario de Mario Silva sobre un video del canal anónimo “Te Amo Venezuela” que criticaba a las primarias de la oposición, permitió identificar a tres canales que impulsaban sus videos de Youtube por medio de anuncios pagos: “Te Amo Venezuela”, “Movimiento Rojo” y “Nuevo Orden”. Las coincidencias entre estos tres canales eran: haber sido recientemente creados, tener pocos seguidores y una cantidad anómala de visualizaciones —que confirmaban el pago de publicidad en YouTube—, narrativas favorables al gobierno de Maduro, desfavorables a la oposición y un grupo común de usuarios que apoyaba con buenos comentarios en los 3 canales.

“Al observar la fecha de creación de los perfiles de YouTube de cada usuario, se pudo comprobar que, entre las personas que publicaron comentarios a estos tres videos, 19 usuarios habían creado sus cuentas el 31 de agosto de 2021, 10 cuentas fueron creadas el 30 de septiembre de 2021 y 3 cuentas se abrieron el 16 de marzo de 2021. Evidencia de que los comentarios fueron publicados, además de coordinadamente, de forma no auténtica. Forman parte de una operación de influencia”.

Cazadores de Fake News

La operación de influencia a la que pertenecían estos comentadores estaba asociada a la cuenta de Twitter @elgatohater, a su vez relacionada con un influencer identificado como NiTanTukky, cuya cuenta fue suspendida por liderar una red de astroturfing en Twitter en la que ofrecía dinero a sus seguidores para impulsar artificialmente etiquetas desinformativas y rumores, principalmente en contra de la oposición venezolana.

Además de las narrativas y los comentadores, estos canales tienen como factor común el nombre de la persona encargada de hacer los pagos de publicidad a Youtube. Un hombre llamado Oscar Rojas (posible pseudónimo) que está en Perú, es el responsable de, por lo menos, otros 6 anuncios de propaganda encubierta, entre los que se cuentan los del canal “House of News” y otro canal llamado “Venezuela se arregló”.

Youtube, Twitter e Instagram

Por si fuera poco, “Movimiento Rojo”, uno de los canales de YouTube que forman parte de la red de “YouTubeGanda” identificada, ha difundido contenido propagandístico que apareció tanto en campañas coordinadas en Twitter, como en lo que Cazadores de Fake News llama “La Fábrica de Desinformación”: una red de falsos noticieros en Instagram, que ha sido origen recurrente de bulos políticos, al menos desde mediados de 2019.

Una vez revisados todos estos hechos, no cabe duda de que estamos ante una operación de influencia y blanqueo de desinformación multiplataforma, de la que eventualmente hacen eco medios de comunicación, líderes y personas influyentes asociadas al gobierno de Maduro de forma accidental o deliberada.

En Cazadores de Fake News estamos comprometidos con el desmontaje de la desinformación y operaciones de influencia dentro del ecosistema digital venezolano, porque las narrativas impulsadas artificialmente contaminan el espacio informativo y condicionan la libertad de expresión y de acceso a la información de los usuarios reales que hacen vida en las redes sociales.