Microsoft y Google lanzaron la búsqueda de IA demasiado pronto

Imagine que su empresa acaba de contratar a un nuevo talento, una estrella en ascenso en la suite ejecutiva tan atractiva que una empresa rival acaba de contratar a un doble. El zumbido a su alrededor es embriagador. Todos parecen estar de acuerdo, desde el CEO hasta los accionistas, esta persona es el futuro de todo el negocio.

Entonces te enteras de que el ejecutivo tiene lo que se denomina cortésmente un «problema de alucinaciones(Se abre en una nueva pestaña).» Cada vez que abren la boca, hay un 15 a 20 por ciento de posibilidades de que simplemente inventen cosas(Se abre en una nueva pestaña). Un profesor de Princeton llama al chico un generador de mierda(Se abre en una nueva pestaña). Literalmente no se puede distinguir la verdad de la ficcion(Se abre en una nueva pestaña). Van a subir al escenario para presentar un nuevo producto en cinco minutos. ¿Todavía los empujas al centro de atención?

Para Microsoft y Google esta semana, la respuesta fue sí. Entusiasmados por el éxito de ChatGPT de OpenAI, el chatbot de inteligencia artificial con 100 millones de usuarios activos mensuales dos meses después de su lanzamiento, Microsoft realizó un evento sorpresa de última hora para anunciar que OpenAI llevaría la búsqueda al estilo de ChatGPT al motor de búsqueda Bing y Edge. navegador. Google anunció una herramienta de búsqueda de inteligencia artificial propia, Bard, el día anterior, y la presentó en un evento en París al día siguiente, pero se encontró con un problema de alucinaciones propio.

«Hoy comienza una nueva carrera», dijo el CEO de Microsoft, Satya Nadella, a los periodistas que habían sido convocados al campus de Redmond, Washington, el martes. Sí, ¿No es lindo pensar así?(Se abre en una nueva pestaña)? A Microsoft, el chico perpetuamente anticuado en el bloque tecnológico, le encantaría que pensaras que Bing, lo siento, «el nuevo Bing», está en una carrera con la búsqueda de Google en cualquier cosa.

Pre-respuesta de Google anunciando a Bard(Se abre en una nueva pestaña) goteaba con condescendencia: «Reorientamos la empresa en torno a la IA hace seis años», escribió el director ejecutivo de Google, Sundar Pichai.

Google y el ‘problema de las alucinaciones’

Lo cual es un punto revelador. Google, el líder mundial en búsquedas, ha tenido años para incorporar IA, y aún su rival ChatGPT, Bard, apenas está en la etapa beta con un pequeño grupo de probadores. A pesar de toda la afectación hipster de Pichai, la presentación de Bard tuvo un desorden no planificado. Google parece haber sido sorprendido por todo el alboroto de ChatGPT también.

¿De qué otra manera explicar el vergonzoso error de Bard en pantalla completa en el lanzamiento, no en el evento en sí, donde se esperan algunas fallas de demostración, sino en un GIF prefabricado? Se muestra a un usuario pidiéndole a Bard datos que pueda contarle a su hijo de 9 años sobre el telescopio espacial James Webb. Uno de esos «hechos», que el JWST tomó la primera fotografía de un exoplaneta, no es cierto. Bard estaba alucinando(Se abre en una nueva pestaña).

No es de extrañar que la empresa matriz, Alphabet, perdiera hasta un 8 por ciento del precio de sus acciones el día del lanzamiento de Bard. Google puso el problema principal con la búsqueda de IA al frente y al centro, y además sugirió que la compañía no puede usar su gran almacén de datos para verificarse a sí misma.

Google debería saberlo mejor, dado que ya tenía un «problema de alucinaciones» con sus fragmentos destacados(Se abre en una nueva pestaña) en la parte superior de los resultados de búsqueda en 2017. El algoritmo de fragmentos parecía disfrutar particularmente contando mentiras sobre los presidentes de EE. UU. De nuevo, ¿qué podría salir mal?

En otras palabras, inicie su herramienta de búsqueda de IA demasiado pronto y corre el riesgo de jugar usted mismo. Microsoft tuvo suerte, en el sentido de que no se exhibieron errores obvios en su evento de lanzamiento. Pero si la búsqueda basada en ChatGPT no estuviera plagada de errores, ¿por qué se encuentra en una etapa beta tan tentativa? Nota al margen: si está interesado en realizar un control de calidad de IA gratuito para Bing, hay una hoja de registro(Se abre en una nueva pestaña).

«Aún hay más por hacer allí», dijo Sarah Bird, directora de IA responsable de Microsoft (¡un título revelador!) en respuesta a una pregunta de cableado sobre el problema de alucinaciones de ChatGPT(Se abre en una nueva pestaña). Sí, no es broma: el número de alucinaciones del 15 por ciento provino de una compañía que está en su propia carrera para crear un verificador de hechos de ChatGPT(Se abre en una nueva pestaña).

Bird agregó que las versiones anteriores del software podían ayudar a los usuarios a planificar un tiroteo en la escuela, pero que esta funcionalidad se había desactivado. ¡Bueno saber! ¿Qué podría salir mal después? Seguramente no hay ninguna otra consecuencia no deseada al acecho en este alucinante producto de búsqueda beta que podría avergonzar a un gigante tecnológico grande y legalmente vulnerable.

Recortado. Zune. Nuevo Bing.

Microsoft lo sabe por vergüenza, por supuesto: es la compañía que nos dio una de las mayores fallas en la historia del software, Clippy. El asistente del sujetapapeles era famoso por dar consejos no deseados. ChatGPT no es Clippy, en el sentido de que lo abordamos con preguntas.

Pero el hecho de que a menudo alucina sus respuestas, o, más a menudo de lo que piensas, les da a los usuarios una variación mundana de «No puedo responder eso», podría hacer que Bing habilitado para ChatGPT sea una especie de Clippy en LSD. Si suficientes usuarios ocasionales del «Nuevo Bing» obtienen resultados ilegibles, entonces será recordado por eso.

No importa si un producto mejora más adelante; la respuesta popular inicial es lo que puede convertirlo en un chiste. Microsoft también debería saber eso; nos dio el Zune. Lanzar un producto ChatGPT antes de que esté realmente listo para el horario estelar no es diferente.

«The New Bing» ya está pidiendo ser un chiste, honestamente. ¿O está realmente listo para deshacerse de la búsqueda de Google y su navegador Chrome para Bing y Edge, en caso de que este último gane la carrera de búsqueda de IA, lo que sea que «ganar» realmente signifique aquí? No lo creo. La inercia tecnológica está profundamente subestimada como fuerza.

ChatGPT es impresionante en algunas circunstancias: a los agentes inmobiliarios en particular les encanta(Se abre en una nueva pestaña) para la escritura de listados, e invoca el miedo en los demás. Pero cada historia sobre sus interrupciones parece de alguna manera menor, una vez que profundizas debajo del titular. ¡Va a conducir a una ola de plagio estudiantil! Excepto que también puede avisarle cuando ChatGPT ha escrito un artículo(Se abre en una nueva pestaña), neutralizando su propia amenaza. ¡Pasó un examen de la facultad de derecho! Excepto esto en realidad se las arregló con un C-plus(Se abre en una nueva pestaña).

Aquí está la cosa: construir el equivalente digital de un cerebro humano, conocido en los círculos de IA como «IA general», es en realidad ir duro. Apenas hemos comenzado a llegar al etapa de inteligencia de insectos(Se abre en una nueva pestaña), otro objetivo de IA de larga data. ¿Realmente confiará en ChatGPT para entregar sus resultados de búsqueda, en lugar de, ya sabe, hacer clic en los enlaces usted mismo?

La respuesta bien podría depender de cuánto usted mismo, querido lector, tenga un problema de alucinaciones.