3 cosas que tienes que saber sobre las cuentas falsas antes de intentar comprar una red social

Una reflexión sobre por qué ni el dinero, ni la buena voluntad, son suficientes para resolver el problema de las cuentas falsas en Twitter

La magnitud del problema de las cuentas falsas en redes sociales es desconocido por muchos, y quienes forman parte de la minoría que se preocupa por sus efectos, desconocen los detalles, las excepciones y la complejidad de fenómeno.

Muchos de los que defienden la libertad de expresión en las redes sociales y abogan por la suspensión de las cuentas falsas, no comprenden por qué satisfacer alguna de ambas necesidades, incide negativamente en la restante, ya que desconocen los pormenores del problema.

En este artículo nos limitamos a discutir los principales razones por las consideramos que determinar cuántas cuentas falsas existen en alguna red social (como Twitter) no es una tarea fácil, y por qué no no es un problema de blancos y negros que puede ser resuelto solamente con buena voluntad (o dinero) de los directivos de la red social, sino estableciendo normativas justas pero realistas para garantizar la libertad de expresión de sus usuarios, limitando el contenido tóxico y priorizando la investigación y los aspectos técnicos como vías para controlar al problema de las cuentas falsas:

1. Acabar con las cuentas falsas no es un problema sencillo, porque no es fácil identificarlas a todas

Hay un error recurrente cuando se habla de cuentas falsas en redes sociales: no todas las cuentas falsas son cuentas “bot”, es decir, no todas están automatizadas. De hecho, la gran mayoría de las cuentas indeseadas, que incumplen normas en redes sociales, no lo son.

Estas son características típicas de las cuentas bot. Pero hay cuentas bot que no tienen todas las características y hay cuentas falsas que no son cuentas bot

Existen cuentas falsas, que son creadas con fotos, nombres y apellidos aparentemente reales, y que son usadas como “marionetas” de forma encubierta, con el objetivo de estafar, hacer propaganda política, difundir contenido de odio, desinformar o vender algún producto, haciéndose pasar por personas, empresas o medios de comunicación reales. Estas son cuentas falsas, pero como no tienen un comportamiento automatizado, es difícil identificarlas.

También hay cuentas que son reales y muy relevantes, que generan contenido al que es imposible acceder a través de medios de comunicación tradicionales, pero que trabajan de forma anónima, bien sea porque la actividad que realizan es considerada ilegal en el país desde el que escriben o, sencillamente, por razones de privacidad. Si este tipo de cuentas anónimas fueran expulsadas de las redes sociales, dejaríamos de acceder a gran parte del contenido importante, inédito, que es compartido en redes sociales.

Adicionalmente, hay operadores que usan cuentas falsas de igual forma que sería usada una cuenta verdadera, con el fin de no levantar sospechas y continuar difundiendo en redes sociales su contenido, que puede ser tóxico (estafas, desinformación, contenido de odio, etc). En la otra cara de la moneda, hay activistas reales, de carne y hueso, que abusan de la cantidad de tweets, fotos y videos que publican en redes sociales, porque consideran que al hacerlo visibilizan una causa justa.

La imagen es una captura de pantalla de un grupo de influencers nigerianos, que habían sido contratados para hacer campaña a favor de Alex Saab en el país africano, impulsando tendencias en Twitter de forma coordinada. Son cuentas reales, pero Twitter prohíbe pagar para impulsar tendencias en la red social

A ciertas redes de activistas, por cierto, también se les paga dinero para impulsar narrativas, sean tóxicas o no.

Y esto no lo quiere Twitter, porque también es una forma de manipular la conversación que se desarrolla en la red social, que terminaría siendo dirigida por sectores poderosos, con suficiente interés para invertir masivas cantidades de dinero en la impulsión de narrativas de propaganda o desinformación.

2. Twitter no tiene una bola mágica para saber cuáles cuentas son falsas y cuáles no (aunque cuenta con un sistema imperfecto que le ayuda)

Twitter cuenta con un sistema proactivo de detección de posibles cuentas falsas, que le ayuda a identificar cuando alguna cuenta ejecuta acciones típicas de cuentas sospechosas. “Posibles cuentas falsas” porque, en muchos casos, el sistema emite falsos positivos y sanciona, suspende o bloquea a cuentas reales y los usuarios (verdaderos) afectados deben apelar estas suspensiones para seguir participando en la red social.

Un ejemplo de cómo funciona este sistema proactivo: si un día, algún operador crea una cuenta y minutos después publica centenas de tweets, sin parar, es bastante probable que el sistema proactivo de Twitter considere que la cuenta tiene un comportamiento sospechoso, y la suspenda.

Sin embargo, la mayoría de los operadores que manejan decenas, sino cientos de cuentas falsas, estudian cómo reacciona el sistema proactivo de Twitter a los distintos estímulos generados por la actividad maliciosa que impulsan, para evitar que sancionen sus cuentas.

En Venezuela, por ejemplo, los tuiteros de la red Tuiteros de La Patria que generan spam, a través de la cual se impulsan a diario tendencias de propaganda a favor del régimen venezolano, controlan la cantidad de tweets diarios que publican, para evitar superar los límites a partir de los cuales Twitter comienza a considerar que una cuenta presenta comportamiento automatizado. Y así evitar suspensiones.

Los Tuiteros de La Patria deben publicar varias centenas de tweets diarios para poder cobrar pagos semanales a través de un sistema gestionado por el régimen venezolano.

Muchas otras redes de cuentas falsas que NO tienen comportamiento automatizado NI generan spam, solamente pueden ser detectadas con investigaciones exhaustivas, descubriendo los patrones entre las cuentas que forman parte de alguna red, patrones que tienen que ver menos con el comportamiento automatizado de las cuentas y más con contextos específicos de lo que hace cada red.

La cantidad de cuentas que formaban parte de la red #TrollsVQ, un conjunto de cuentas trolls que operaban en varios países de Latinoamérica, solo pudo ser definida observando los patrones de uso de las cuentas que formaban la red troll e identificando en cuáles países se encontraba realizando campañas de comunicación la empresa de relaciones públicas internacional que estaba vinculada por la red troll. Fueron patrones y pistas obtenidas fuera de Twitter las que permitieron comprender cómo y para qué existía la red, porque, aunque estaba integrada por cuentas falsas, ninguna de ellas tenía características de cuentas bot.

La red #TrollsVQ (antes #LosTrollsLlaneros), era una red de cuentas falsas que no tenían características típicas de cuentas automatizadas. Fueron detectuadas tras una investigación exhaustiva

No es menos cierto, sin embargo, que hay casos bastante evidentes de redes de cuentas falsas que a veces perduran por años sin un aparente freno por parte de la red social.

3. Hay una delgada línea entre intentar controlar lo que hacen las cuentas falsas y atentar contra la libertad de expresión de los usuarios verdaderos

Generalmente las cuentas falsas son usadas con el objetivo de implantar una narrativa (tóxica o no), o quizás para vender algún producto o servicio, como contenido pornográfico o un medicamento para el COVID-19 (efectivo o no).

Pero, ¿qué ocurre cuando cuentas verdaderas, con millones de seguidores desinforman, publican contenido de odio o abogan por el uso de medicinas o tratamientos que podrían empeorar la salud de gran cantidad de personas? ¿Hasta qué punto las redes sociales deben ser tolerantes con las cuentas verdaderas que violan sus reglas y políticas? La suspensión de la cuenta del expresidente Donald Trump, fue un hito que hizo que nos replanteáramos esa gran incógnita.

Lechuguinos es una página web venezolana que publica desinformación y publica contenido de odio de forma regular. Ambas actividades están prohibidas por Twitter, a pesar que no era una cuenta falsa, ni anónima

El problema no radica solamente en limitar la acción de cuentas automatizadas que generan spam, o bien a las marionetas usadas para amplificar contenido tóxico o discutir con otros usuarios que piensan que son cuentas normales y corrientes sino establecer, de qué forma controlar el contenido tóxico en redes sociales, incluso si es generado por cuentas de personas reales, e incluso por personas con mucho poder, pero que indiscutiblemente han violado las normas de la red social sobre el contenido de odio, manipulado o desinformativo.

Muchos de estos usuarios reales e influyentes, han comprendido que las redes sociales pueden ser usadas tanto como altavoces para amplificar sus narrativas y como armas contra sus adversarios, bien sea personas, partidos políticos o incluso países. Abusan del alcance que les proporciona la amplia masa de seguidores que pueden acumular, e intentan manipularlos generando el mismo contenido falso y engañoso, de odio, propaganda o información errónea, cuya difusión se quiere combatir limitando el efecto de las cuentas falsas.

Este tipo de contenido suele ser removido muy rápidamente de Twitter si es publicado por una cuenta falsa, o anónima. ¿No debería aplicar la misma regla si es publicada por una cuenta real, incluso si fuera una figura pública?

No es solamente un problema de lo que hacen las cuentas falsas. El problema está en el tipo de contenido que están generando muchas cuentas, sean falsas o no.

Lo que implica también que, en un supuesto negado de que una red social como Twitter logre eliminar el contenido tóxico, el spam y la actividad maliciosa generada por las cuentas falsas, el problema persistirá: quedará pendiente eliminar el que es generado por las cuentas verdaderas.


Comenta y Participa 💬

Tu opinión nos importa. Únete a nuestra comunidad de Telegram y danos tu feedback.