Microsoft rompe el chatbot Bing AI después de que los usuarios informaran intercambios hostiles

El chatbot de IA de Bing puede hacer mucho, incluido insultar a sus usuarios.

En una publicación de blog el miércoles, Microsoft dijo que la herramienta del motor de búsqueda estaba respondiendo a ciertas consultas “de una manera que no pretendíamos”.

Después de realizar pruebas en 169 países, durante los primeros siete días, el gigante tecnológico dijo que si bien los comentarios sobre las respuestas generadas por el nuevo Bing fueron en su mayoría positivos, también se observaron desafíos con las respuestas que necesitaban datos oportunos. Microsoft señaló que Bing puede ser repetitivo o “pedir/provocar que brinde respuestas que no son necesariamente útiles o están en línea con nuestro estilo diseñado”.

Microsoft dijo que las largas sesiones de chat pueden confundir al formulario sobre qué preguntas responder y que el formulario que intenta responder o pensar en el tono en el que se le pide que brinde respuestas puede conducir a este patrón.

El bot de IA de Bing le dice al reportero que quiere “robar el código nuclear” y crear un “virus mortal”

El logotipo de Microsoft Bing y la página del sitio web se ven en esta foto tomada en Nueva York el 7 de febrero de 2023. ((Foto AP/Richard Drew))

“Este es un escenario no trivial que requeriría mucha estimulación para la mayoría de ustedes, pero estamos viendo cómo podemos darles un control más granular”, dijo.

Los usuarios de las redes sociales han compartido capturas de pantalla de respuestas extrañas y hostiles, con Bing afirmando que es humano y que quiere causar estragos.

The Associated Press dijo que encontró tales respuestas defensivas después de algunas preguntas sobre sus errores pasados.

Realicé la entrevista por chat como si fuera un ser humano; Esto es lo que tengo que decir, me puso la piel de gallina.

El empleado de Microsoft Alex Buscher demuestra la integración de la función de búsqueda de Microsoft Bing y el navegador Edge con OpenAI el 7 de febrero de 2023 en Redmond. ((Foto AP/Stephen Brashear))

Esta no es la primera vez que una herramienta de este tipo ha llamado la atención, y algunos han comparado a Bing con el lanzamiento de Tay, un chatbot experimental de 2016, que entrenó a los usuarios para hacer comentarios racistas y sexistas.

“Una de las áreas en las que estamos aprendiendo un nuevo caso de uso para el chat es cómo las personas lo usan como una herramienta para descubrir el mundo de manera más general y para el pasatiempo social. Este es un gran ejemplo de dónde la nueva tecnología está encontrando un mercado de productos: adecuado para algo que no habíamos imaginado completamente”, dijo Microsoft.

La señalización del stand corporativo de Microsoft se exhibe en CES 2023 en el Centro de Convenciones de Las Vegas el 6 de enero de 2023 en Las Vegas, Nevada. ((Foto de David Baker/Getty Images))

Hasta ahora, los usuarios de Bing tenían que inscribirse en una lista de espera para probar las nuevas funciones, aunque Microsoft planea llevarlas a las aplicaciones de teléfonos inteligentes para un uso más amplio.

Haga clic aquí para la aplicación FOX NEWS

El nuevo Bing se basa en la tecnología del socio de inicio de Microsoft, OpenAi, que se hizo famoso por su herramienta ChatGPT lanzada el año pasado.

Associated Press contribuyó a este informe.