OpenAI se suočava sa zabrinutošću da bi korisnici mogli razviti emocionalnu ovisnost o novoj glasovnoj značajci ChatGPT-a. Unatoč ograničenoj dostupnosti u Europi, već se uočavaju problemi poput emocionalne vezanosti i manipulacije ljudskim glasom. Značajka radi s ograničenjima i memorija nije dostupna, što utječe na korisničko iskustvo.
OpenAI je nedavno predstavio novu govornu značajku za ChatGPT koja omogućuje razgovore u stvarnom vremenu s gotovo ljudskom intonacijom i odzivom. Na prvi pogled radi se o fascinantnoj tehnologiji koja je korak bliže scenarijima iz filmova poput “One”. Međutim, pokazalo se da je ovaj tehnološki iskorak prepun rizika.
U najnovijoj analizi koju je objavila tvrtka, istraživači su otkrili da su neki korisnici već emocionalno vezani za svoje glasovne asistente. Ovaj fenomen, nazvan "antropomorfizacija", znači da ljudi tehnologiji pripisuju ljudske kvalitete, što može dovesti do dubokog povjerenja i emocionalne ovisnosti o njoj.
Iako ova nova značajka donosi ogromne mogućnosti za interakciju, ona također otvara vrata manipulaciji i zlouporabi. Sigurnosni testovi su pokazali da glasovni unos može poslužiti i za "jailbreak" sustava, što modelu omogućuje da prijeđe njegove sigurnosne granice i ponudi odgovore koji nisu predviđeni. Osim toga, značajka je posebno osjetljiva na zvukove iz okoline, što može uzrokovati nepredvidivo ponašanje poput oponašanja vlastitog glasa korisnika.
Fotografija: pexels / theshantunukrEuropski korisnici još nemaju ovu značajku, budući da OpenAI postupno uvodi tu značajku i to samo ograničenom broju korisnika, uglavnom u SAD-u. Također, značajka za sada radi uz određena ograničenja, a memorija uopće nije uključena, što znači da se sustav ne može sjetiti prethodnih razgovora. To, naravno, utječe na cjelokupno korisničko iskustvo, koje je donekle smanjeno u usporedbi s korisnicima u drugim regijama.
Unatoč svim ovim izazovima, OpenAI inzistira da je razvoj govorne funkcije važan korak u budućnost, ali istovremeno ukazuje na potrebu opreza i daljnjeg istraživanja kako bi se spriječile moguće negativne posljedice ove tehnologije.
Za sada ostaje pitanje kako će korisnici reagirati na ove inovacije i kakve će biti dugoročne posljedice ove emotivne tehnologije. Međutim, na temelju trenutačnih istraživanja i sigurnosnih testiranja, jasno je da će OpenAI morati nastaviti pomno pratiti razvoj i korištenje ove značajke.
