OpenAI continúa mostrando al mundo cómo su IA crece y mejora con cada nueva versión introducida. ChatGPT-4o es la última versión de la línea de chatbots de OpenAI y, como era de esperar, las empresas están preocupadas por cómo los usuarios interactúan con él.
OpenAI advierte a los usuarios de IA
Dado que la última versión puede exhibir comportamientos y respuestas similares a los humanos, a la compañía de inteligencia artificial le preocupa que los usuarios puedan desarrollar sentimientos por el chatbot.
A medida que la startup valorada en mil millones de dólares continúa perfeccionando su producto, uno no puede evitar notar algunas tendencias entre los usuarios de ChatGPT-4o. El lanzamiento del nuevo chatbot tuvo como objetivo brindar una experiencia similar a hablar con un ser humano. Al parecer, OpenAI subestimó la conexión emocional que se pueden crear entre los usuarios y el programa.
Durante las primeras pruebas, incluidas las pruebas de equipo rojo y de usuarios internos, observamos que los usuarios usaban un lenguaje que podría indicar que estaban realizando conexiones con el modelo. Por ejemplo, esto incluye lenguaje que expresa vínculos compartidos, como "Es nuestro último día juntos".
Aunque estos casos parecen leves, resaltan la necesidad de realizar más investigaciones sobre cómo estos efectos pueden manifestarse durante largos períodos de tiempo. Poblaciones de usuarios más diversas, con necesidades y deseos más variados para el modelo, así como estudios académicos e internos independientes nos ayudarán a definir esta área de riesgo de manera más concreta.
La socialización similar a la humana con un modelo de IA puede producir externalidades que impactan las interacciones entre humanos. Por ejemplo, los usuarios pueden formar relaciones sociales con la IA, reduciendo su necesidad de interacción humana, lo que potencialmente puede beneficiar a individuos individuales, pero posiblemente afectar las relaciones saludables.
La interacción prolongada con el modelo puede influir en las normas sociales. Por ejemplo, nuestros modelos son deferentes y permiten a los usuarios interrumpir y “reanudar el uso del micrófono” en cualquier momento, lo que, si bien está destinado a una IA, sería antinormativo en las interacciones humanas.
Cuidado con enamorarte de ChatGPT
Desarrollar sentimientos por ChatGPT-4o es perjudicial en varios casos. El principal es que los usuarios no eran conscientes de ninguna alucinación, porque las iteraciones anteriores del chatbot los hacían parecer más un programa de inteligencia artificial que una persona. Ahora, a medida que el programa evoluciona hacia una experiencia casi humana, cualquier cosa que usted diga puede aceptarse sin más preguntas.
Al darse cuenta de estos patrones, OpenAI ahora monitoreará cómo las personas desarrollan conexiones emocionales con ChatGPT-4o y ajustará sus sistemas en consecuencia. La compañía también debería añadir una advertencia al principio para que los usuarios no se enamoren porque, en definitiva, es un programa de inteligencia artificial.
«Explorador apasionado. Aficionado al alcohol. Fanático de Twitter. Webaholic galardonado. Aficionado a la comida. Geek de la cultura pop. Organizador».