OpenAI teme che gli utenti possano sviluppare una dipendenza emotiva dalla nuova funzionalità vocale di ChatGPT. Nonostante la sua disponibilità limitata in Europa, si stanno già osservando problemi come attaccamenti emotivi e manipolazione della voce umana. La funzionalità funziona con limitazioni e la memoria non è disponibile, il che influisce sull'esperienza dell'utente.
OpenAI ha recentemente introdotto una nuova funzionalità vocale per ChatGPT che consente conversazioni in tempo reale con intonazione e reattività quasi umane. A prima vista, si tratta di una tecnologia affascinante che si avvicina sempre di più agli scenari di film come "Her". Tuttavia, questa svolta tecnologica si è rivelata anche irta di rischi.
Nell’ultima analisi pubblicata dall’azienda, i ricercatori hanno scoperto che alcuni utenti sono già emotivamente attaccati ai propri assistenti vocali. Questo fenomeno, chiamato "antropomorfizzazione", significa che le persone attribuiscono qualità umane alla tecnologia, il che può portare a una profonda fiducia e dipendenza emotiva da essa.
Se da un lato questa nuova funzionalità offre enormi opportunità di interazione, dall’altro apre anche la porta alla manipolazione e all’uso improprio. I test di sicurezza hanno dimostrato che l'input vocale può anche servire al "jailbreak" del sistema, consentendo al modello di oltrepassare i suoi limiti di sicurezza e offrire risposte non previste. Inoltre, la funzionalità è particolarmente sensibile ai suoni ambientali, che possono causare comportamenti imprevedibili come l'imitazione della voce dell'utente.
Gli utenti europei non dispongono ancora di questa funzionalità, poiché OpenAI la sta implementando gradualmente e solo per un numero limitato di utenti, principalmente negli Stati Uniti. Inoltre, per ora la funzione funziona con alcune limitazioni e la memoria non è inclusa, il che significa che il sistema non può ricordare le conversazioni precedenti. Ciò, ovviamente, influisce sull'esperienza complessiva dell'utente, che è leggermente ridotta rispetto agli utenti di altre regioni.
Nonostante tutte queste sfide, OpenAI insiste sul fatto che lo sviluppo della funzione vocale è un passo importante verso il futuro, ma allo stesso tempo sottolinea la necessità di cautela e di ulteriori ricerche per prevenire possibili conseguenze negative di questa tecnologia.
Per ora resta la domanda su come reagiranno gli utenti a queste innovazioni e quali saranno le conseguenze a lungo termine di questa tecnologia emozionale. Tuttavia, sulla base delle ricerche attuali e dei test di sicurezza, è chiaro che OpenAI dovrà continuare a monitorare da vicino lo sviluppo e l'utilizzo di questa funzionalità.
