IA y redes como herramientas de movilización y desestabilización marcan esta semana en Inglaterra

Menos de tres horas después del ataque con arma blanca del lunes que provocó la muerte de tres niños, una cuenta llamada Europe Invasion compartió en X una imagen generada por inteligencia artificial. Mostraba a hombres barbudos con vestimenta musulmana tradicional fuera del Parlamento, uno de ellos blandiendo un cuchillo, detrás de un niño llorando con una camiseta con la bandera del Reino Unido.

El tuit, que desde entonces ha sido visto 900.000 veces, tenía el título: "¡Debemos proteger a nuestros niños!" y fue compartido por una de las cuentas más potentes de desinformación sobre los apuñalamientos de Southport.

La tecnología de inteligencia artificial se ha utilizado de otras maneras, como por ejemplo en un grupo de Facebook antiinmigración que ilustró un llamamiento a asistir a una manifestación en Middlesbrough generando una imagen de una gran multitud en el cenotafio de la ciudad.

Se han utilizado plataformas como Suno (que emplea inteligencia artificial para generar música con voces e instrumentos) para crear canciones en línea que combinan referencias a Southport con contenido xenófobo. Entre los títulos se incluye “Southport Saga”, en la que una voz femenina de inteligencia artificial canta letras como “cazadlos de alguna manera”.

Los expertos han advertido de que las nuevas herramientas y formas de organización han hecho que la extrema derecha británica, fracturada, aproveche el ataque de Southport para unificarse y rejuvenecer su presencia en las calles.

En un aumento de actividad que no se veía desde hacía años, se están promoviendo más de 10 protestas en plataformas de redes sociales como X, TikTok y Facebook tras los violentos disturbios que se han producido en todo el país.

La aparición de herramientas de inteligencia artificial de fácil acceso que los extremistas han estado utilizando para crear material que abarca desde imágenes provocativas hasta canciones y música ha dado lugar a una nueva dimensión.

Andrew Rogoyski, director del Instituto de Inteligencia Artificial Centrada en las Personas de la Universidad de Surrey, afirmó que los avances (con herramientas de generación de imágenes ahora ampliamente disponibles en línea) significan que “cualquiera puede crear cualquier cosa”.

Agregó: “La capacidad de cualquier persona para crear imágenes poderosas utilizando inteligencia artificial generativa es una enorme preocupación. La responsabilidad recae entonces en los proveedores de dichos modelos de inteligencia artificial para reforzar las barreras de protección incorporadas dentro del modelo para dificultar la creación de dichas imágenes”.

Mulhall, director de investigación del grupo de campaña Hope Not Hate, dijo que el uso de material generado por IA era incipiente, pero reflejaba la creciente superposición y colaboración en línea entre una variedad de individuos y grupos.

Si bien las organizaciones de extrema derecha como Britain First y Patriotic Alternative siguen estando a la vanguardia de la movilización y la agitación, igualmente importantes son una variedad de individuos que no están afiliados a ningún grupo en particular.

"Se componen de miles de personas que ofrecen microdonaciones de tiempo y, a veces, dinero para colaborar en pos de objetivos políticos comunes, completamente fuera de las estructuras organizativas tradicionales", dijo Mulhall. "Estos movimientos carecen de líderes formales, sino que tienen figuras representativas, a menudo extraídas de una selección cada vez mayor de 'influencers' de extrema derecha en las redes sociales".

En términos de la promoción de las protestas, el hashtag #enoughisenough ha sido utilizado por algunos influencers de derecha según Joe Ondrak, analista senior de Logically, una empresa del Reino Unido que monitorea la desinformación.

“Lo clave es cómo se ha utilizado esa frase y ese hashtag en el activismo antiinmigrante anterior”, dijo.

Los analistas también destacaron el uso de bots. Tech Against Terrorism, una iniciativa lanzada por una rama de la ONU, citó una cuenta de TikTok que comenzó a publicar contenido solo después del ataque de Southport el lunes.

Amenazas de muerte contra el primer ministro del Reino Unido, incitación a atacar propiedades gubernamentales y antisemitismo extremo también estuvieron entre los comentarios en el canal de Telegram de un grupo de extrema derecha esta semana.

En medio de los temores de que la violencia se propague, un importante grupo de expertos en contra del extremismo advirtió que existía el riesgo de que la extrema erecha pudiera lograr una movilización no vista desde que la Liga de Defensa Inglesa (EDL) irrumpió en las calles en la década de 2010.

“Es un ambiente febril que se ve agravado por la salud del entorno informativo en línea, que es el peor de los últimos años”, afirmó.

“Robinson sigue siendo uno de los organizadores más eficaces de la extrema derecha del Reino Unido. Sin embargo, también hemos visto el aumento de cuentas, grandes y pequeñas, que seleccionan noticias que apelan a sensibilidades antiinmigrantes y antimusulmanas, y no les preocupa difundir información no verificada.

“Existe el riesgo de que se aproveche este momento para intentar crear una movilización callejera que se parezca más a la de la década de 2010”.