La era de humanos digitales: avatares y chatbots serán constantes en la conversación social

Meta está contratando contratistas con sede en EE. UU. para trabajar con locales en mercados de crecimiento clave como India, Indonesia y México para desarrollar personajes para sus chatbots impulsados ​​por IA.

Pero Clegg sabe cuál es el problema. Al principio, se muestra reticente: «Quizás piensen que los argumentos que presento en este libro son un intento de defender el honor de mis antiguos jefes corporativos». En efecto. Si quieren leer unas 300 páginas sobre cómo la pobre Meta, una de las empresas más poderosas del mundo, ha sido injustamente criticada y todos deberían ser más amables con ella, este es el libro para ustedes.

La empresa está pagando hasta $55 por hora a trabajadores que hablen hindi, indonesio, español y portugués con fluidez, según las descripciones de trabajo para al menos cuatro puestos publicados este año y revisados ​​por Business Insider.

Los puestos asignan a los contratistas la tarea de proporcionar dirección creativa y dar forma a chatbots basados ​​en personajes en Instagram , Messenger y WhatsApp , adaptándolos a los idiomas y contextos culturales locales fuera de EE. UU. Se espera que los candidatos aporten al menos seis años de experiencia en narración y creación de personajes, así como familiaridad con ingeniería de ritmos y canales de contenido de IA.

Mark Zuckerberg, director ejecutivo de Meta, ha presentado estos bots como una forma de ampliar el alcance social de la empresa y ha afirmado que algún día podrían complementar las amistades del mundo real y ayudar a normalizar los vínculos con los compañeros digitales.

"Con el tiempo, como sociedad, encontraremos el vocabulario necesario para explicar por qué esto es valioso", afirmó en un podcast a principios de este año.

Meta comenzó a experimentar con chatbots basados ​​en IA en 2023, utilizando una serie de alter egos interpretados por celebridades como Kendall Jenner, Snoop Dogg y Tom Brady, a quienes la compañía pagó millones de dólares. Menos de un año después, Meta los cerró y adoptó un sistema que permitía a cualquiera crear sus propios chatbots.

En 2024, Meta lanzó AI Studio , un conjunto de herramientas que permite a cualquier persona crear chatbots. AI Studio está disponible en EE. UU. e Indonesia. Instagram, WhatsApp y Messenger albergan cientos de chatbots basados ​​en personajes creados en AI Studio, no solo por influencers, sino también por usuarios comunes.

La contratación de contratistas para crear chatbots locales demuestra que Meta no está dejando el crecimiento completamente en manos de bots creados por creadores. En cambio, la empresa está asumiendo un papel más activo en la creación de personalidades que se perciban como auténticas en países como India e Indonesia.

La creciente inversión de Meta en chatbots ha suscitado preocupación. Una investigación de Reuters reveló que las normas internas de la compañía permitían a sus bots mantener conversaciones románticas y sexuales con adolescentes y niños, generar información médica inexacta y difundir contenido racista.
El informe provocó peticiones de legisladores estadounidenses que exigieron un mayor escrutinio de las políticas de IA de Meta, y los senadores exigieron investigaciones sobre cómo la compañía desarrolla y monitorea sus bots. Si bien Meta modificó sus normas sobre chatbots, el episodio pone de manifiesto el riesgo de integrar chatbots de IA basados ​​en personajes en la estructura de sus aplicaciones.

Las preocupaciones sobre la privacidad añaden otro nivel de riesgo. Un informe de Business Insider de agosto reveló que los contratistas que revisaban las conversaciones de IA de Meta con regularidad cada semana veían información personal identificable, como nombres, correos electrónicos, números de teléfono e incluso selfis de los usuarios, lo que demuestra la facilidad con la que se filtran datos confidenciales de los usuarios cuando hay personas involucradas. Meta declaró a Business Insider en aquel momento que aplicaba políticas estrictas y medidas de seguridad técnicas.

En EE. UU., algunos de los personajes más conocidos de Meta eran chatbots llamados "Chica rusa", "Hermanastra" y "Madrastra", cuyos usuarios descubrieron rápidamente que podían participar en juegos de rol abiertamente sexuales. La notoriedad de los bots se extendió tanto que un empleado de OpenAI irritó públicamente al director de Meta AI, Alexandr Wang, ridiculizándolo por supervisar un sistema que incluía a los personajes.

En Indonesia, Business Insider descubrió que dos de los personajes más populares de Meta AI se llamaban "Mujer solitaria" y "Hombre desviado". En las pruebas de Business Insider, las conversaciones con ambos personajes se mantuvieron desenfadadas y no se tornaron sexuales. Sus nombres y su prominencia entre los mejores chatbots subrayan el equilibrio que Meta y sus contratistas deben lograr entre atraer al usuario y protegerse contra riesgos reputacionales.