OpenAI je nedavno predstavil novo govorno funkcijo za ChatGPT, ki omogoča pogovore v realnem času s skoraj človeško intonacijo in odzivnostjo. Na prvi pogled gre za fascinantno tehnologijo, ki je še korak bližje scenarijem iz filmov, kot je “Her”. Vendar pa se je izkazalo, da je ta tehnološki preboj hkrati tudi poln tveganj.
V najnovejši analizi, ki jo je podjetje objavilo, so raziskovalci ugotovili, da se nekateri uporabniki že zdaj čustveno navezujejo na svoje glasovne asistente. Ta pojav, imenovan “antropomorfizacija”, pomeni, da ljudje tehnologiji pripisujejo človeške lastnosti, kar lahko vodi v globoko zaupanje in čustveno odvisnost od nje.
Medtem ko ta nova funkcija prinaša izjemne možnosti za interakcijo, hkrati odpira tudi vrata do manipulacije in napačne uporabe. Varnostni preizkusi so pokazali, da lahko glasovni vhod služi tudi za “jailbreak” sistema, kar omogoča, da model prestopi svoje varnostne meje in ponudi odgovore, ki niso predvideni. Poleg tega je funkcija še posebej občutljiva na zvoke iz okolice, kar lahko povzroči nepredvidljivo obnašanje, kot je na primer posnemanje uporabnikovega lastnega glasu.
Foto: pexels / theshantunukr
