Verificar si es humano es un IA

Martes 18 de Junio de 2024
Edición Nº 2099


10 05 2023

Tech

Verificar si es humano es un IA

Esta herramienta de detección de IA recaudó $ 3.5 millones para verificar el trabajo generado por computadoraa en Internet La financiación se destinará a mejorar la herramienta para satisfacer las demandas creadas por el volumen de IA generativa que se publica en Internet.

GPTZero, una herramienta creada por un estudiante de la Universidad de Princeton y diseñada para detectar Texto generado por IA, ha recaudado $ 3.5 millones en fondos para desarrollar su equipo para mejorar mejor la tecnología existente y lanzar una nueva herramienta automatizada para verificar la web.

La firma de capital de riesgo Uncork Capital y el acelerador de inicio Neo invirtieron en GPTZero, al igual que Jack Altman, el hermano del CEO de OpenAI, Sam Altman, y el ex New York Times CEO Mark Thompson. 

“ Quieren ver esto construido hacia un caso de uso del periodismo, porque combatir desinformación— y ser un filtro para Internet — se considera importante, ” dice Edward Tian, el fundador de GPTZero, de 22 años.

GPTZero, que ahora emplea a 10 personas, se lanzó en enero de 2023. Sobre 30,000 personas probó la herramienta dentro de una semana de su lanzamiento, bloqueando los servidores. Desde su lanzamiento, 1.2 millones de personas se han registrado en la herramienta.


La herramienta analiza el texto por su perplejidad “ ” y la burstiness “ ” — dos medidas de cuán compleja y variada es la escritura — para determinar si es probable que sea generada por una IA o no. Ese enfoque no está exento de fallas: un Documento de investigación de abril de 2023 de los académicos de la Universidad de Stanford descubrieron que las herramientas de detección de IA como GPTZero a menudo clasificaban injustamente el texto escrito por hablantes no nativos de inglés como producido por IA debido a la falta de variación en sus escritos.

A pesar de tal evidencia de sesgo, el interés en detectar contenido generado por IA sigue siendo alto — como lo demuestra la inversión en GPTZero.

Una nueva herramienta desarrollada por la compañía, llamada Origin, lanzada la semana pasada en la tienda Google Chrome. Permite a los usuarios resaltar texto en Internet, y una extensión del navegador verifica automáticamente si el contenido es generado por IA. En el futuro, también verificará la fuente de información. “ Vamos a verificar cada oración dentro de un sitio web, ” dice Tian. “ Si Origin dice que es generado por IA, vamos a rastrear la cita para ver si es falsa o no. ”


Tener una herramienta de este tipo es vital para los usuarios de Internet en la era de la IA, dice Tian. “ Detectar IA es solo el primer paso de este largo juego de lo que la gente necesita saber en el delta entre la IA y las generaciones humanas, ” dice. 

Tian cree que GPTZero está en una posición única para tener éxito debido a los problemas de diseño inherentes a la generación actual de tecnología GPT y la importancia de identificar dónde se ha hecho el contenido utilizando esas IA herramientas. “ Existe este nuevo problema de que los datos en Internet, [ en los que ] se capacitan estos modelos de lenguaje, están contaminados por los resultados del modelo de lenguaje [ mismo ], ” dice Tian. “ Entonces, ahora toda esta industria necesita una capa de filtrado para entrenar mejores modelos de lenguaje. ”

Muchos dentro de su equipo, incluido el cofundador y director de tecnología Alex Cui, comparte esa creencia —, por lo que Cui abandonó su programa de doctorado en investigación de IA en la Universidad de Toronto para unirse al equipo a tiempo completo.

“ Esto es solo el comienzo, ” dice Tian. “ Hasta ahora, era estudiante, todavía en la escuela, con un proyecto paralelo. En el momento en que todos se unen, está a todo vapor. ” Tian dice que la financiación permitirá al personal de GPTZero dedicar su trabajo a tiempo completo al proyecto, mejorar la herramienta para satisfacer las demandas creadas por el volumen de IA generativa que se publica en Internet. “ Estamos haciendo la transición de esto, es algo que hacemos de lado a algo en lo que estamos poniendo nuestros corazones y haciendo todo lo posible, ” dice.

Más allá del desarrollo de nuevas características, los fondos se utilizarán para financiar investigadores líderes mundiales para que vengan a trabajar con GPTZero, dándoles la capacidad de aprender más técnicas. Parte de la financiación también se destinará a un mayor desarrollo de Origin, que actualmente se está codificando. 

“ Tener esto como un escudo para que todos consuman información es importante, ” dice Tian. “ Tus ojos no son suficientes para distinguir entre información errónea y verdad. Ahora necesita saber el origen de todo. ”