OpenAI enfrenta la preocupación de que los usuarios puedan desarrollar una adicción emocional a la nueva función de voz de ChatGPT. A pesar de su limitada disponibilidad en Europa, ya se están observando problemas como los apegos emocionales y la manipulación de la voz humana. La función funciona con limitaciones y la memoria no está disponible, lo que afecta la experiencia del usuario.
OpenAI introdujo recientemente una nueva función de voz para ChatGPT que permite conversaciones en tiempo real con entonación y capacidad de respuesta casi humanas. A primera vista, se trata de una tecnología fascinante que se acerca un paso más a escenarios de películas como "Ella". Sin embargo, este avance tecnológico también ha demostrado estar plagado de riesgos.
En el último análisis publicado por la empresa, los investigadores descubrieron que algunos usuarios ya están apegados emocionalmente a sus asistentes de voz. Este fenómeno, llamado "antropomorfización", significa que las personas atribuyen cualidades humanas a la tecnología, lo que puede conducir a una profunda confianza y dependencia emocional de ella.
Si bien esta nueva característica brinda enormes oportunidades de interacción, también abre la puerta a la manipulación y el mal uso. Las pruebas de seguridad han demostrado que la entrada de voz también puede servir para "hacer jailbreak" al sistema, lo que permite al modelo cruzar sus límites de seguridad y ofrecer respuestas no deseadas. Además, la función es especialmente sensible a los sonidos ambientales, lo que puede provocar comportamientos impredecibles, como imitar la propia voz del usuario.
Foto: pexels / theshantunukrLos usuarios europeos aún no tienen esta función, ya que OpenAI la está implementando gradualmente y solo para un número limitado de usuarios, principalmente en los EE. UU. Además, la función funciona con ciertas limitaciones por ahora y la memoria no está incluida en absoluto, lo que significa que el sistema no puede recordar conversaciones anteriores. Esto, por supuesto, afecta la experiencia general del usuario, que es algo reducida en comparación con los usuarios de otras regiones.
A pesar de todos estos desafíos, OpenAI insiste en que el desarrollo de la función del habla es un paso importante hacia el futuro, pero al mismo tiempo señala la necesidad de precaución y más investigación para evitar posibles consecuencias negativas de esta tecnología.
Por ahora, la pregunta sigue siendo cómo reaccionarán los usuarios ante estas innovaciones y cuáles serán las consecuencias a largo plazo de esta tecnología emocional. Sin embargo, según las investigaciones y pruebas de seguridad actuales, está claro que OpenAI deberá seguir supervisando de cerca el desarrollo y el uso de esta función.
