Desinformar con varias cuentas: un caso en TikTok

Un rumor que afirma falsamente que los titulares de tarjetas verdes tienen prohibido salir y volver a ingresar a los EE. UU. se extendió como un reguero de pólvora en TikTok esta semana, obteniendo más de 21 millones de visitas en docenas de videos compartidos por una red de casi 40 cuentas, muchas de ellas haciéndose pasar por medios de comunicación en español para compartir información errónea relacionada con la inmigración.

Las cuentas han estado compartiendo videos manipulados que contienen contenido generado por inteligencia artificial y las voces de periodistas profesionales conocidos para difundir información errónea sobre inmigración y otros temas divisivos que tienden a volverse virales en las redes sociales, según Alexios Mantzarlis, director de la Iniciativa de Seguridad, Confianza y Protección en Cornell Tech, el campus de posgrado de la Universidad de Cornell en la ciudad de Nueva York.

La mayoría de las cuentas de TikTok tienen nombres genéricos que incluyen las palabras "noticias" o "noticiero", y ocho de ellas usan falsamente los logotipos de dos importantes cadenas de noticias en español: Univisión y Telemundo. (Telemundo y NBC News son propiedad de NBCUniversal, una subsidiaria de Comcast Corp.)

Esta nueva red de desinformación en español "se apropia tanto del tipo de mecánica viral del algoritmo de TikTok como de la naturaleza humana de igual a igual de las comunidades inmigrantes", dijo a NBC News Mantzarlis, quien también dirige Faked Up , un boletín sobre desinformación digital.

Mantzarlis comenzó a rastrear la red de cuentas el mes pasado tras ver una serie de publicaciones que afirmaban falsamente que los supermercados empezarían a exigir identificación para comprar alimentos. En su boletín informativo, afirmó que algunos de los videos incluían mensajes que apuntaban a un claro intento de atacar a inmigrantes indocumentados .

Observó que las cuentas se centraban principalmente en publicar sobre el presidente Donald Trump y la inmigración.

Esta semana, al menos 25 videos compartidos por la red de cuentas de TikTok, que difundían información falsa sobre titulares de tarjetas de residencia, suplantaban la voz del reportero de Univisión, Javier Díaz. Díaz no respondió a una solicitud de comentarios y Univisión tampoco emitió comentarios.

Los 25 videos fueron eliminados de TikTok después de que NBC News enviara los enlaces a los videos al solicitar comentarios a la plataforma el martes. NBC News también envió a la compañía los enlaces a las 38 cuentas de TikTok que, según Mantzarlis, formaban parte de la red.

El miércoles por la tarde, las 38 cuentas de TikTok fueron eliminadas.

En una declaración a NBC News, un portavoz de TikTok dijo: "Seguimos protegiendo a nuestra comunidad hispanohablante de contenido y cuentas engañosas invirtiendo en equipos y tecnologías de moderación, asociándonos con verificadores de datos y desarrollando consejos y herramientas de alfabetización mediática".

Según el portavoz, TikTok eliminó los videos y las cuentas porque violaban las políticas de integridad y autenticidad de la empresa que prohíben la desinformación dañina, el contenido engañoso generado por IA, la suplantación de identidad y los comportamientos engañosos.

Un mensaje falso y un mensajero
Una narrativa falsa compartida por una de las cuentas de la red el mes pasado utilizó la voz de la ex presentadora de Telemundo María Celeste Arrarás para hacer parecer que estaba informando sobre Trump considerando un plan para brindar una vía legal a inmigrantes indocumentados sin antecedentes penales.

Arrarás publicó el clip en su cuenta de Instagram para que sus seguidores sepan que la noticia en el video " ES FALSA ".

"Han editado varios reportajes que presenté en televisión hace años para engañar al público. ES UN CORTE DE AUDIO para que parezca que estoy informando noticias que NO SON REALES. Por favor, difundan el mensaje", escribió .

El martes, el video con la voz de Arrarás parecía haber sido eliminado de la cuenta de TikTok. Sin embargo, la cuenta permaneció activa hasta la mañana del miércoles, junto con varios otros videos con desinformación, incluyendo uno publicado el día anterior con la voz de Arrarás .

Antes de que TikTok cerrara las cuentas el miércoles por la tarde, los videos que incluían información errónea sobre los titulares de tarjetas verdes y vías legales para inmigrantes indocumentados habían llegado al feed de una mujer inmigrante en la ciudad de Nueva York a quien Amelia Scdoris, organizadora comunitaria de Cabrini Immigrant Services, había estado ayudando.

Es un ejemplo, dijo Scdoris, de por qué su organización realiza reuniones periódicas para ayudar a los inmigrantes a analizar la información errónea que encuentran y servir como una fuente confiable de información relacionada con la inmigración.

Marta Planells, vicepresidenta de noticias digitales y streaming de Telemundo, afirmó que la cadena lleva más de un año denunciando cuentas de TikTok que se hacen pasar por Telemundo. Sin embargo, recientemente la situación ha empeorado.

"Especialmente en los últimos dos meses, ha sido cada vez más común encontrar estas cuentas falsas", declaró a NBC News. "Hemos visto muchas más cuentas que se hacen pasar por nosotras".

Planells dijo que incluso están descubriendo nuevos casos en los que familias inmigrantes creyeron la desinformación difundida por las cuentas porque creían que provenía de Telemundo. "Nos ha costado mucho combatirlo".

Planells dijo que TikTok ha sido proactivo al cerrar las cuentas que reporta Telemundo, pero "siempre que logramos cerrar una, aparecen tres más".

Según el portavoz de TikTok, la plataforma se basa en tecnología automatizada, informes de usuarios, búsquedas proactivas, informes de tendencias de expertos y verificadores de datos para detectar desinformación  en la plataforma en diferentes idiomas. Durante el tercer trimestre de 2024 , más del 97 % del contenido eliminado de TikTok por infringir sus políticas de integridad y autenticidad se eliminó de forma proactiva antes de que alguien nos lo informara.

Agregaron que TikTok tiene miles de moderadores de contenido que monitorean la desinformación a nivel mundial, pero se negaron a decir exactamente cuántos.

A modo de ejemplo, la operación de TikTok en la región de la Unión Europea contaba con 531 moderadores de contenido en español y 1,524 moderadores de contenido en inglés en diciembre de 2024, según el informe de transparencia digital más reciente que la empresa debe presentar para operar en esa región .

A pesar de estos esfuerzos, combatir la desinformación en línea sigue siendo una tarea abrumadora. Los latinos, incluidas las comunidades inmigrantes hispanohablantes, son más propensos a recurrir a las redes sociales  para mantenerse informados que otros grupos, según un informe de Nielsen. TikTok es particularmente popular entre las comunidades latinas en EE. UU., donde aproximadamente la mitad de los adultos hispanos afirman usar la plataforma .

Luba Cortés, organizadora principal de derechos civiles y de inmigración en el grupo de defensa Make the Road New York, dijo que ha visto de primera mano cómo los hábitos de consumo de noticias de las comunidades inmigrantes de habla hispana las hacen más vulnerables al tipo de desinformación que se difunde en las redes sociales.

"Lo ven y creen que es cierto", declaró Cortés a NBC News sobre el contenido generado por IA y la desinformación que la gente ve en línea. "Eso causa mucho pánico masivo".

Es más, dijo, el pánico motiva a los espectadores a compartir los videos falsos dentro de sus redes, ya que piensan erróneamente que los TikToks contienen información útil.

Las falsedades relacionadas con la inmigración compartidas en línea a menudo ganan más fuerza cuando incluyen “cortes engañosos de evidencia” conectados a “una crisis real”, según Mert Bayar, quien investiga rumores sobre inmigrantes y no ciudadanos como investigador postdoctoral en el Centro para un Público Informado de la Universidad de Washington.

Ese parece ser el caso de la historia que afirma falsamente que los titulares de tarjetas verdes, o residentes legales permanentes, no pueden salir y volver a ingresar a los EE. UU. Ha estado circulando después de las noticias sobre titulares de tarjetas verdes que ahora luchan contra la deportación después de participar en protestas universitarias pro palestinas y viajar al extranjero .

La semana pasada, el Consorcio Nacional de Servicios y Educación Coreano-Americanos , un grupo de defensa de los derechos de los inmigrantes, dijo en una publicación de Instagram que algunos titulares de tarjetas verdes firmaron, sin saberlo, un formulario I-407 renunciando a su estatus permanente legal.

Cortés dijo que no se ha encontrado con un caso así en su organización, pero “sí creo que, ahora, hay preocupaciones”.

¿Motivación política o una posible estafa financiera?
Debido a que la red de cuentas de TikTok que comparten videos con información falsa "denuncian la política migratoria de Trump y otras que dicen que está a punto de salvar a todos", Mantzarlis dijo que no está claro si la operación tiene motivaciones políticas o si está sentando las bases para identificar posibles víctimas de futuras estafas financieras.

Como parte de su investigación previa, Mantzarlis ha visto cómo los usuarios que interactúan con este tipo de contenidos luego se convierten en blancos de estafas monetarias.

"Lo único que podemos decir con certeza es que solo intentan crear un público, una gran audiencia", dijo. "Después, lo que decidan hacer con eso depende de ellos".