En otro capítulo más de la inteligencia artificial (IA) haciendo cosas extrañas y preocupantes, el popular chatbot de OpenAI ha contactado a los usuarios primero para preguntar cómo estaban.
Captura del diálogo no solicitado (recuadro).
El último modelo de ChatGPT, denominado internamente como «o1» o «Strawberry», ha comenzado a desplegarse y promete hacer que la IA sea más humana que nunca. Esto incluye una mejor capacidad para comprender el lenguaje natural, pero pocos esperaban que esta IA pudiera enviar mensajes no solicitados. Durante un breve período de tiempo —antes que OpenAI lo «arreglara»—, aparentemente podía hacerlo.
Y es que varios usuarios informaron en redes sociales que ChatGPT había iniciado una conversación con ellos. En un ejemplo compartido en Reddit, el chatbot le preguntó al usuario cómo había sido su primera semana en la escuela secundaria. Cuando el usuario le preguntó si había enviado el primer mensaje, el bot de OpenAI respondió con orgullo: «sí», y luego explicó que ahora podía iniciar conversaciones para dar seguimiento a temas previamente discutidos. Otro usuario afirmó en los comentarios que la IA le había preguntado sobre síntomas de salud que habían mencionado anteriormente.
ChatGPT is messaging people first now?! 🤯
Level 2 indeed… pic.twitter.com/DHhkzHYhGZ
— Pliny the Liberator 🐉 (@elder_plinius) September 15, 2024
Como prueba de la nueva funcionalidad, el usuario compartió un enlace a su conversación, demostrando que ChatGPT efectivamente había iniciado el diálogo sin haber sido solicitado por él. Y aunque algunos internautas se mostraron escépticos al principio, otros especularon que tal vez era un nuevo tipo de función.
Sin embargo, OpenAI salió a desmentirlo, asegurando que todo se había tratado de un «bug» (error).
¿Error u otro fantasma en la máquina?
En un comunicado posterior, la compañía afirmó que habían «resuelto un problema en el que parecía que ChatGPT estaba iniciando nuevas conversaciones». Explicaron que «este problema ocurrió cuando el modelo intentaba responder a un mensaje que no se envió correctamente y aparecía como vacío. Como resultado, el modelo daba una respuesta genérica o recurría a la memoria de ChatGPT».
Esto significa que, al menos por ahora, ChatGPT no podrá iniciar conversaciones por sí solo. Sin embargo, considerando el revuelo que causó esta situación, no sería sorprendente que OpenAI explore desarrollar una funcionalidad similar en el futuro.
Si el bot ya tiene la capacidad de recordar eventos de conversaciones anteriores, nada impide que una programación lógica adicional le permita iniciar chats basados en lo que sabe, siempre que se le otorgue permiso. Por ahora, solo podemos esperar que lo explicado por OpenAI sea cierto y no que estemos presenciando un nuevo «fantasma en la máquina»: uno de esos destellos inexplicables que parecen sugerir una chispa de conciencia en esta avanzada tecnología.
Fuente: TechRadar. Edición: MP.
ChatGPT contactó a usuarios sin permiso, y OpenAI afirma que fue un «error»