Todos hablaremos con un chat como compañero

Miercoles 24 de Julio de 2024
Edición Nº 2135


23 02 2023

Chatbots

Todos hablaremos con un chat como compañero

La disputa estratégica del futuro por Will Douglas Heaven

Es un buen momento para ser una startup de búsqueda. Cuando hablé con Richard Socher, el CEO de You.com, la semana pasada estaba zumbando: "Hombre, qué día tan emocionante, parece otro disco para nosotros", exclamó. Nunca tuve tantos usuarios. Ha sido un torbellino". No sabrías que dos de las empresas más grandes del mundo acababan de revelar versiones rivales del producto de su compañía.

En anuncios consecutivos la semana pasada, Microsoft y Google plantearon sus respectivos reclamos sobre el futuro de la búsqueda, mostrando chatbots que pueden responder a las consultas con oraciones fluidas en lugar de listas de enlaces. Microsoft ha actualizado su motor de búsqueda Bing con una versión de ChatGPT, el popular chatbot lanzado por OpenAI con sede en San Francisco el año pasado; Google está trabajando en un rival de ChatGPT, llamado Bard.

Pero si bien estos anuncios dieron una idea de lo que sigue para la búsqueda, para obtener una imagen completa debemos mirar más allá de Microsoft y Google. Aunque esos gigantes continuarán dominando, para cualquiera que busque una alternativa, la búsqueda se volverá más concurrida y variada.

Esto se debe a que, bajo el radar, una nueva ola de nuevas empresas ha estado jugando con muchas de las mismas herramientas de búsqueda mejoradas por chatbot durante meses. You.com lanzó un chatbot de búsqueda en diciembre y ha estado implementando actualizaciones desde entonces. Una serie de otras compañías, como Perplexity, Andi y Metaphor, también están combinando aplicaciones de chatbot con actualizaciones como la búsqueda de imágenes, funciones sociales que le permiten guardar o continuar los hilos de búsqueda iniciados por otros y la capacidad de buscar información con solo segundos de antigüedad.
El éxito de ChatGPT ha creado un frenesí de actividad a medida que los gigantes tecnológicos y las nuevas empresas intentan descubrir cómo dar a las personas lo que quieren, de una manera que nunca hubieran sabido que querían.

Vieja guardia, nuevas ideas
Google ha dominado el mercado de búsqueda durante años. "Ha sido bastante estable durante mucho tiempo", dice Chirag Shah, que estudia tecnologías de búsqueda en la Universidad de Washington. "A pesar de muchas innovaciones, la aguja no se ha movido mucho".

Eso cambió con el lanzamiento de ChatGPT en noviembre. De repente, la idea de buscar cosas escribiendo una cadena de palabras desconectadas se sintió pasada de moda. ¿Por qué no pedir lo que quieres?

La gente está enganchada a esta idea de combinar chatbots y búsqueda, dice Edo Liberty, quien solía dirigir el laboratorio de inteligencia artificial de Amazon y ahora es CEO de Pinecone, una compañía que fabrica bases de datos para motores de búsqueda: "Es el tipo correcto de emparejamiento, es mantequilla de maní y jalea".

Google ha estado explorando la idea de usar modelos de lenguaje grandes (la tecnología detrás de chatbots como ChatGPT y Bard) durante algún tiempo. Pero cuando ChatGPT se convirtió en un éxito comercial, Google y Microsoft hicieron sus movimientos.

También lo hicieron otros. Ahora hay varias pequeñas empresas compitiendo con los grandes jugadores, dice Liberty. "Hace apenas cinco años, sería una tontería", dice. "¿Quién en su sano juicio trataría de asaltar ese castillo?"


Asaltando el castillo
Hoy en día, el software comercial ha hecho que sea más fácil que nunca construir un motor de búsqueda y conectarlo a un modelo de lenguaje grande. "Ahora puede morder trozos de tecnologías que fueron construidas por miles de ingenieros durante una década con solo un puñado de ingenieros en unos pocos meses", dice Liberty.

Esa ha sido la experiencia de Socher. Socher dejó su papel como científico jefe de IA en Salesforce para cofundar You.com en 2020. El sitio actúa como una ventanilla única para los usuarios avanzados de búsqueda web que buscan una alternativa de Google. Su objetivo es dar a las personas respuestas a diferentes tipos de consultas en una variedad de formatos, desde recomendaciones de películas hasta fragmentos de código.


La semana pasada introdujo la búsqueda multimodal, donde su chatbot puede elegir responder a las consultas utilizando imágenes o widgets incrustados de aplicaciones afiliadas en lugar de texto, y una función que permite a las personas compartir sus intercambios con el chatbot, para que otros puedan recoger un hilo existente y profundizar en una consulta.

Esta semana, You.com lanzó una actualización que responde preguntas sobre eventos deportivos en vivo, como si los Eagles aún podrían ganar el Super Bowl con ocho minutos por jugar.

Perplexity, una compañía creada por ex investigadores de OpenAI, Meta y Quora, un sitio web donde las personas hacen y responden las preguntas de los demás, está llevando la búsqueda en una dirección diferente. La startup, que ha combinado una versión del modelo de lenguaje grande GPT-3 de OpenAI con Bing, lanzó su chatbot de búsqueda en diciembre y dice que alrededor de un millón de personas lo han probado hasta ahora. La idea es tomar ese interés y construir una comunidad social a su alrededor.

La compañía quiere reinventar los repositorios de información basados en la comunidad, como Quora o Wikipedia, utilizando un chatbot para generar las entradas en lugar de humanos. Cuando las personas hacen preguntas al chatbot de Perplexity, las sesiones de preguntas y respuestas se guardan y pueden ser navegadas por otros. Los usuarios también pueden votar hacia arriba o hacia abajo las respuestas generadas por el chatbot, y agregar sus propias consultas a un hilo en curso. Es como Reddit, pero los humanos hacen las preguntas y una IA responde.

La semana pasada, el día después de que el chatbot Bard de Google (aún por lanzar) fuera visto dando una respuesta incorrecta en un clip promocional apresurado (un blooper que puede haberle costado miles de millones a la compañía), Perplexity anunció un nuevo complemento para el navegador web de Google, Chrome, con un clip de su propio chatbot dando la respuesta correcta a la misma pregunta.


Angela Hoover, CEO y cofundadora de la firma de búsqueda Andi, con sede en Miami, creó su compañía hace un año después de sentirse frustrada por tener que examinar anuncios y spam para encontrar enlaces relevantes en Google. Al igual que muchas personas que han jugado con chatbots como ChatGPT, Hoover tiene una visión de búsqueda inspirada en sabelotodos de ciencia ficción como Jarvis en Iron Man o Samantha en Her.


Por supuesto, todavía no tenemos nada de eso. "No creemos que Andi lo sepa todo", dice Hoover. "Andi solo está encontrando información que la gente ha puesto en Internet y traiéndola a usted en una forma agradable y empaquetada".

El giro de Andi en la búsqueda implica el uso de grandes modelos de lenguaje para elegir los mejores resultados para resumir. Hoover dice que ha entrenado a sus modelos en todo, desde artículos ganadores del Pulitzer hasta spam de SEO para mejorar el motor para favorecer ciertos resultados y evitar otros.

En última instancia, la batalla por la búsqueda no solo se limitará a la web, sino que también se necesitarán herramientas para buscar a través de fuentes más personales como correos electrónicos y mensajes de texto. "En comparación con el resto de los datos en el mundo, la web es pequeña", dice Liberty.

Según Liberty, hay toneladas de empresas que utilizan chatbots para la búsqueda que no compiten con Microsoft y Google. Su compañía, Pinecone, proporciona software que facilita la combinación de grandes modelos de lenguaje con pequeños motores de búsqueda personalizados. Los clientes han utilizado Pinecone para crear herramientas de búsqueda a medida para manuales de usuario, bases de datos médicas y transcripciones de podcasts favoritos. "No sé por qué, pero alguien usó Pinecone para construir un bot de preguntas y respuestas para la Biblia", dice.


"Simplemente inventan cosas"


Pero muchas personas piensan que usar chatbots para la búsqueda es una idea terrible, y punto. Los grandes modelos de lenguaje que los impulsan están impregnados de sesgos, prejuicios y desinformación. Hoover acepta esto. "Los modelos de lenguaje grandes por sí solos no son suficientes", dice. "Son máquinas de llenar los espacios en blanco, simplemente inventan cosas".

Las empresas que crean chatbots para la búsqueda intentan solucionar este problema conectando grandes modelos de lenguaje en los motores de búsqueda existentes y haciendo que resuman los resultados relevantes en lugar de inventar oraciones desde cero. La mayoría también hace que sus chatbots citen las páginas web o documentos que están resumiendo, con enlaces que los usuarios pueden seguir si quieren verificar las respuestas o profundizar más.
Pero estas tácticas están lejos de ser infalibles. En los días transcurridos desde que Microsoft abrió el nuevo Bing a los primeros usuarios, las redes sociales se han llenado de capturas de pantalla que muestran que el chatbot se descarrila a medida que las personas encuentran formas de obtener respuestas sin sentido u ofensivas. Según Dmitri Brereton, un ingeniero de software que trabaja en inteligencia artificial y búsqueda, la elegante demostración de Bing Chat de Microsoft también estuvo plagada de errores.

Hoover sospecha que los chatbots de Microsoft y Google pueden producir respuestas incorrectas porque unen fragmentos de los resultados de búsqueda, que pueden ser inexactos. "Es un mal enfoque", dice. "Es fácil de demostrar porque se ve impresionante, pero produce respuestas poco fiables". (Microsoft y Google no respondieron a las solicitudes de comentarios).
Hoover dice que Andi evita simplemente repetir texto de los resultados de búsqueda. "No inventa cosas como otros chatbots", dice. Las personas pueden decidir por sí mismas si eso es cierto o no. Después de recopilar comentarios de sus usuarios durante el año pasado, el chatbot de la compañía ahora a veces admite cuando no confía en una respuesta. "Dirá: 'No estoy seguro, pero según Wikipedia...'", dice Hoover.

De cualquier manera, esta nueva era de búsqueda probablemente no abandonará por completo las listas de enlaces. "Cuando piense en la búsqueda dentro de cinco años, todavía tendremos la capacidad de mirar los resultados", dice Hoover. "Creo que esa es una parte importante de la web".

Pero a medida que los chatbots se vuelven más convincentes, ¿estaremos menos inclinados a verificar sus respuestas? "Lo que es digno de mención no es que los grandes modelos de lenguaje generen información falsa, sino lo buenos que son para desactivar las habilidades de razonamiento crítico de las personas", dice Mike Tung, CEO de Diffbot, una compañía que construye software para extraer datos de la web.

Shah de la Universidad de Washington comparte esa preocupación. En la demostración de Microsoft para Bing Chat, la compañía insistió en el mensaje de que el uso de chatbots para la búsqueda puede ahorrar tiempo. Pero Shah señala que un proyecto poco conocido en el que Microsoft ha estado trabajando durante años, llamado Search Coach, está diseñado para enseñar a las personas a detenerse y pensar.

Anunciado como "un motor de búsqueda con ruedas de entrenamiento", Search Coach ayuda a las personas, especialmente a estudiantes y educadores, a aprender a escribir consultas de búsqueda efectivas e identificar recursos confiables. En lugar de ahorrar tiempo, Search Coach alienta a las personas a reducir la velocidad. "Compare eso con ChatGPT", dice Shah.

Empresas como Andi, Perplexity y You.com están felices de admitir que todavía están averiguando qué búsqueda podría ser. La verdad es que pueden ser muchas cosas.

"No quieres luchar contra la conveniencia, esa es una batalla perdida en la tecnología de consumo", dice Socher. "Pero hay algunas preguntas bastante fundamentales sobre todo el estado de Internet en juego aquí".