Veo gente que no existe (y gatos también)

Varias granjas de trolls latinoamericanas han hecho uso de rostros creados con Inteligencia Artificial, haciéndose pasar por grupos de ciudadanos reales para manipular las redes sociales. ¿Qué podemos hacer para identificar retratos de gente que no existe?

Uno de los principales retos que tienen los creadores de campañas en redes sociales en las que se impulsa propaganda, desinformación y odio es ensamblar vastas redes de cuentas falsas, que parezcan ser operadas por personas reales con el fin de impulsar narrativas de forma coordinada.

Para que estas campañas sean creíbles, es esencial que los operadores creen cuentas falsas con personalidad y apariencia humana y, por esa razón, es muy común identificar cuentas bots y trolls que eligen como avatares a rostros humanos sintéticos de personas que no existen, creados con el uso de inteligencia artificial.

Las redes generativas antagónicas (o GANs, del inglés “generative adversarial networks“), son algoritmos basados en inteligencia artificial que pueden generar imágenes sintéticas, a simple vista reales, como paisajes, dibujos, obras de arte, animales y también rostros humanos. Estas imágenes pueden ser creadas con distintas aplicaciones, muchas de ellas de acceso gratuito y disponibles en línea.

Al estudiar redes de cuentas falsas en Latinoamérica y hacer una revisión de reportes de otras redes alrededor del mundo, se hace evidente la tendencia a usar imágenes de rostros humanos creados con algoritmos basados en GAN y también el paulatino aprendizaje de la cibercomunidad, que ha aprendido a identificar redes de cuentas falsas que usan este tipo de imágenes.

Operaciones de influencia y rostros falsos

En Venezuela, durante los años 2020 y 2021, fueron identificadas una gran cantidad de cuentas falsas que aparecieron en el contexto de una operación de influencia, aún en curso, que busca posicionar narrativas favorables a la defensa de Alex Saab. Muchas de estas cuentas usaron como avatares fotos de rostros generados con algoritmos basados en GAN.

Saab es un empresario colombiano vinculado al régimen de Nicolás Maduro, detenido en Cabo Verde en junio de 2020 y extraditado a Estados Unidos en octubre de 2021, donde se encuentra enfrentando un juicio por presunto lavado de dinero. La operación de influencia que impulsa narrativas a su favor, ha hecho uso regular de cuentas falsas, astroturfing, desinformación y otras técnicas de manipulación para simular que el apoyo popular a Saab es mayor al que realmente posee.

En varias ocasiones reportamos distintos lotes de cuentas con comportamiento similar a bot, difundiendo propaganda a favor de Alex Saab, algunas de las cuales usaban rostros sintéticos creados con técnicas basadas en inteligencia artificial:

En diciembre de 2021 publicamos un reporte sobre una red de 181 cuentas falsas que fueron usadas en una operación de propaganda a favor de candidatos del Partido Socialista Unido de Venezuela (PSUV) a las elecciones regionales de Venezuela. Algunas de las cuentas detectadas en esa campaña electoral, habían sido previamente usadas en otra operación de influencia a favor de Luis Arce, presidente de Bolivia y usaban avatares con rostros sintéticos, creados con inteligencia artificial.

En abril de 2022 publicamos un segundo reporte en el que explicamos que las cuentas falsas formaban parte de una gran red conformada por al menos 357 cuentas trolls, presuntamente asociadas a una empresa de asesoría comunicacional panameña, que ha estado involucrado en el uso de cuentas falsas en campañas electorales en Venezuela, Bolivia, República Dominicana y Panamá:

En agosto de 2022, Twitter divulgó varias colecciones de datos asociados a operaciones de influencia desplegadas en todo el mundo, que incluían información sobre cuentas falsas o que violaron las reglas de la red social. En tres de las colecciones de datos se hallaron evidencias de operaciones desplegadas en Honduras y Guatemala. Cazadores de Fake News publicó tres reportes en los que se evidenció que en los tres datasets había un gran porcentaje de cuentas falsas que usaban imágenes de rostros generados con algoritmos GAN.

En el caso del Dataset #1 de dicha divulgación, referido a campañas desplegadas para público de Honduras, al menos 230 de las 1379 cuentas (16,6%) tenían avatares posiblemente creados con inteligencia artificial.

En los Datasets #2 y #3 hay rastros de distintas operaciones de influencia dirigidas a comunidades de Guatemala. Al menos 43 de las 249 cuentas del Dataset #2 (17,3%) usaron avatares posiblemente creados con algoritmos GAN y 356 de las 1780 cuentas del Dataset #3 (20%), también son rostros aparentemente sintéticos:

6 tips para identificar rostros generados con inteligencia artificial

Por fortuna, las fotos de rostros sintéticos generados con inteligencia artificial tienen algunas características que permiten ser detectadas por un ojo entrenado, especialmente si son identificadas actuando de forma coordinada en grupos de varias cuentas.

En los reportes publicados para describir las operaciones de información publicadas por Twitter en agosto 2022, explicamos que una de las principales características de los rostros generados con algoritmos basados en GAN es la coincidencia en la posición del iris:

25 rostros sintéticos generados con algoritmos basados en GAN (inteligencia artificial). Dataset Américas #1, divulgación Twitter Agosto 2022

Es la pista más común que tiene este tipo de rostros sintéticos y la más útil al momento de identificar lotes de decenas de cuentas con fotografías de rostros (posiblemente) creados con inteligencia artificial.

Adicionalmente, hay otras pistas útiles que pueden servir para identificar cuentas bots o trolls que están usando fotografías de personas que no existen:

  • Detalles asimétricos: en ocasiones, objetos como zarcillos, aretes, piercings y anteojos no son reproducidos de forma perfecta en los retratos sintéticos creados con algoritmos GAN.
    Es usual conseguir retratos con zarcillos inconsistentes o de formas muy poco definidas, anteojos asimétricos u otros objetos que por regla deberían ser simétricos:
Ejemplos de rostros creados con GAN, que poseen asimetrías o no coincidencias en objetos que deberían ser idénticos
  • Deformaciones, desproporción: pueden detectarse rostros con partes color carne que no tienen ninguna forma definida, partes de la cara desproporcionadas o ropa con letras o logos indefinidos, a pesar de tener buena resolución:
  • Distorsiones en partes distintas al rostro: no es raro conseguir segmentos de otras personas que se encuentran deformados: caras, brazos, ojos, cabezas. También se pueden conseguir glitches o errores digitales, fuera del área del rostro, que delatan que son imágenes artificiales:
  • Fondos distorsionados o inconsistentes: No es raro conseguir rostros generados con inteligencia artificial cuyos fondos poseen formas incoherentes, con manchas o patrones abstractos de líneas oblícuas o curvas, que no se corresponden con fondos de fotografías corrientes:
  • Encuadre, iluminación o fondo aparentemente profesional: si bien algunas fotografías pueden tener errores y glitches derivados de la síntesis del rostro usando inteligencia artificial, muchas de los rostros que son generados con esta técnica poseen alta calidad, buen encuadre e iluminación y en ocasiones, sus fondos de pantalla parecieran indicar que las fotografías fueron tomadas en algún estudio fotográfico con un fondo neutro.
    Pero a pesar de todo, los ojos siguen estando en la misma posición:

Este tipo de “perfección” fotográfica es sospechosa, cuando varias cuentas de este tipo operan con un mismo objetivo y son descubiertas de forma simultánea.

En ocasiones este tipo de fotografías son usadas en la creación de sockpuppets o cuentas troll en redes profesionales como LinkedIn, por lo que nunca está demás investigar un poco más antes de entregar datos confidenciales a algún reclutador en dicha red:

Me parece haber visto a un lindo gatito

Pero los creadores de cuentas falsas en redes sociales, no solamente han hecho uso de rostros humanos para darles personalidad a sus ejércitos de bots y trolls.

Investigadores de botnets en redes sociales como Twitter han detectado redes de centenas de cuentas con comportamiento similar a bot que usan imágenes de de rostros humanos, dibujos de animé e incluso gatos, todas creadas con uso de inteligencia artificial basada en GAN:

Se repite el mismo patrón, indistintamente que la cuenta falsa tenga rostro (aparentemente) humano. Imágenes realistas de personas, animales o cualquier ser animado (o inanimado) está fácilmente disponible con el uso de nuevas tecnologías basadas en inteligencia artificial.

Queda de parte de la cibercomunidad y de los cazadores de bots y trolls del mundo, contrarrestar operaciones de manipulación de redes sociales que usan estas tecnologías, buscando patrones que permitan detectar redes de forma temprana y superar así la “inteligencia” de los imperfectos algoritmos que están siendo usados, antes que su resiliencia a este tipo de operaciones sea superada por los manipuladores que abusan de ellos.


Comenta y Participa 💬

Tu opinión nos importa. Únete a nuestra comunidad de Telegram y danos tu feedback.