OpenAI, desarrollador de ChatGPT, responsable de popularizar la inteligencia artificial (IA) generativa desde principios de 2022 hasta 2023, está preocupado por la posibilidad de que el uso de la voz artificial de la herramienta provoque dependencia emocional en los usuarios y perjudique las relaciones sociales, según un aviso de seguridad. informe publicado esta semana.
El documento, parte del compromiso de “construir IA de forma segura”, dice la compañía, describe las pruebas internas y con pequeños grupos de usuarios seleccionados. Sus hallazgos reavivan las comparaciones entre la nueva voz artificial de ChatGPT y la película de 2013 «Her».
En mayo, durante el lanzamiento de ChatGPT-4o, la versión de la herramienta de IA generativa que integra voz artificial, las comparaciones fueron sugeridas por una publicación del CEO de OpenAI, Sam Altman, y por una controversia entre la empresa y la actriz estadounidense Scarlett Johansson. , que interpreta la voz de una herramienta de inteligencia artificial en la película dirigida por el cineasta estadounidense Spike Jonze.
La vida imita el arte.
En la película de ciencia ficción, que ganó el premio al Mejor Guión Original en los Premios de la Academia de 2014, el solitario Theodore, interpretado por el actor Joaquin Phoenix, se enamora de la voz femenina de la herramienta ficticia de IA.
En la vida real, el informe de OpenAI revela que las primeras pruebas realizadas por la empresa mostraron que «los usuarios utilizaban un lenguaje que podía indicar la formación de conexiones» con la voz artificial.
«Aunque estos casos parecen leves, resaltan la necesidad de realizar más investigaciones sobre cómo estos efectos pueden manifestarse durante períodos de tiempo más largos», dice el informe, enfatizando la necesidad de realizar pruebas más amplias.
Menos interacción humana
A continuación, el informe afirma que “la socialización similar a la humana con un modelo de IA puede generar externalidades que afecten las interacciones humanas”.
Casi haciéndose eco de la trama de la película de Jonze, el documento de OpenAI advierte que «los usuarios pueden formar relaciones sociales con la IA, reduciendo la necesidad de interacción humana, lo que podría beneficiar a individuos individuales, pero podría afectar las relaciones saludables».
“La interacción prolongada con el modelo puede influir en las normas sociales. Por ejemplo, nuestros modelos son deferentes y permiten a los usuarios interrumpir y ‘agarrar el micrófono’ en cualquier momento, lo que, si bien está destinado a una IA, sería antinormativo en las interacciones humanas”, afirma el informe.
Después del anuncio de ChatGPT-4o en mayo, además de la controversia con Scarlett Johansson, quien criticó públicamente a OpenAI por considerar una de las voces del nuevo asistente como propia, se citaron preocupaciones de seguridad para justificar los retrasos en el lanzamiento real para los usuarios. .
En el informe, la compañía destaca que «la capacidad de completar tareas para el usuario, mientras se almacena y ‘recuerda’ detalles clave y los utiliza en una conversación, crea tanto una experiencia de producto convincente como un potencial de dependencia excesiva».
Por lo tanto, OpenAI garantiza que tiene la intención de «estudiar más a fondo el potencial de dependencia emocional y cómo una integración más profunda de las muchas características de nuestro modelo y sistemas con la modalidad de audio puede influir en el comportamiento».
Ver también
NEGOCIO
Ciel Tower: descubre imágenes del hotel más alto del mundo en construcción en Dubái
turismo
El gobierno quiere atraer 8,1 millones de turistas internacionales hasta 2027
«Explorador apasionado. Aficionado al alcohol. Fanático de Twitter. Webaholic galardonado. Aficionado a la comida. Geek de la cultura pop. Organizador».