OpenAI se sooča s skrbmi, da bi uporabniki razvili čustveno odvisnost od nove govorne funkcije ChatGPT. Kljub omejeni dostopnosti v Evropi že opažajo težave, kot so čustvene navezanosti in manipulacija s človeškim glasom. Funkcija deluje z omejitvami, pomnilnik pa ni na voljo, kar vpliva na uporabniško izkušnjo.
OpenAI je nedavno predstavil novo govorno funkcijo za ChatGPT, ki omogoča pogovore v realnem času s skoraj človeško intonacijo in odzivnostjo. Na prvi pogled gre za fascinantno tehnologijo, ki je še korak bližje scenarijem iz filmov, kot je “Her”. Vendar pa se je izkazalo, da je ta tehnološki preboj hkrati tudi poln tveganj.
V najnovejši analizi, ki jo je podjetje objavilo, so raziskovalci ugotovili, da se nekateri uporabniki že zdaj čustveno navezujejo na svoje glasovne asistente. Ta pojav, imenovan “antropomorfizacija”, pomeni, da ljudje tehnologiji pripisujejo človeške lastnosti, kar lahko vodi v globoko zaupanje in čustveno odvisnost od nje.
Medtem ko ta nova funkcija prinaša izjemne možnosti za interakcijo, hkrati odpira tudi vrata do manipulacije in napačne uporabe. Varnostni preizkusi so pokazali, da lahko glasovni vhod služi tudi za “jailbreak” sistema, kar omogoča, da model prestopi svoje varnostne meje in ponudi odgovore, ki niso predvideni. Poleg tega je funkcija še posebej občutljiva na zvoke iz okolice, kar lahko povzroči nepredvidljivo obnašanje, kot je na primer posnemanje uporabnikovega lastnega glasu.
Foto: pexels / theshantunukrEvropski uporabniki te funkcije zaenkrat še nimajo na voljo, saj OpenAI uvaja funkcijo postopoma, in to le za omejeno število uporabnikov, predvsem v ZDA. Prav tako funkcija zaenkrat deluje z določenimi omejitvami, pomnilnik pa sploh ni vključen, kar pomeni, da si sistem ne more zapomniti prejšnjih pogovorov. To seveda vpliva na celotno uporabniško izkušnjo, ki je v primerjavi z uporabniki v drugih regijah nekoliko okrnjena.
Kljub vsem tem izzivom pa OpenAI vztraja, da je razvoj govorne funkcije pomemben korak v prihodnost, vendar ob tem opozarja na potrebo po previdnosti in nadaljnjih raziskavah, da bi preprečili morebitne negativne posledice te tehnologije.
Zaenkrat ostaja vprašanje, kako se bodo uporabniki odzvali na te novosti in kakšne bodo dolgoročne posledice te čustvene tehnologije. Glede na sedanje raziskave in varnostne preizkuse pa je jasno, da bo OpenAI moral še naprej pozorno spremljati razvoj in uporabo te funkcije.
