OpenAI čelí obavám, že používatelia si môžu vyvinúť emocionálnu závislosť na novej hlasovej funkcii ChatGPT. Napriek jeho obmedzenej dostupnosti v Európe sa už pozorujú problémy, ako sú citové väzby a manipulácia s ľudským hlasom. Funkcia funguje s obmedzeniami a pamäť nie je k dispozícii, čo ovplyvňuje používateľskú skúsenosť.
OpenAI nedávno predstavila novú funkciu reči pre ChatGPT, ktorá umožňuje konverzácie v reálnom čase s takmer ľudskou intonáciou a odozvou. Na prvý pohľad je to fascinujúca technológia, ktorá je o krok bližšie k scenárom z filmov ako „Ona“. Tento technologický prelom sa však ukázal aj ako plný rizík.
V najnovšej analýze zverejnenej spoločnosťou výskumníci zistili, že niektorí používatelia sú už emocionálne pripútaní k svojim hlasovým asistentom. Tento fenomén nazývaný „antropomorfizácia“ znamená, že ľudia pripisujú ľudské vlastnosti technológiám, čo môže viesť k hlbokej dôvere a emocionálnej závislosti od nich.
Aj keď táto nová funkcia prináša obrovské príležitosti na interakciu, zároveň otvára dvere manipulácii a zneužitiu. Bezpečnostné testy ukázali, že hlasový vstup môže slúžiť aj na „útek z väzenia“ systému, čo umožňuje modelu prekročiť hranice bezpečnosti a ponúkať odpovede, ktoré nie sú určené. Okrem toho je táto funkcia obzvlášť citlivá na okolité zvuky, ktoré môžu spôsobiť nepredvídateľné správanie, ako napríklad napodobňovanie vlastného hlasu používateľa.
Európski používatelia túto funkciu zatiaľ nemajú, pretože OpenAI túto funkciu zavádza postupne a len pre obmedzený počet používateľov, najmä v USA. Tiež funkcia zatiaľ funguje s určitými obmedzeniami a pamäť nie je zahrnutá vôbec, čo znamená, že systém si nepamätá predchádzajúce konverzácie. To, samozrejme, ovplyvňuje celkovú používateľskú skúsenosť, ktorá je v porovnaní s používateľmi v iných regiónoch o niečo znížená.
Napriek všetkým týmto výzvam OpenAI trvá na tom, že vývoj funkcie reči je dôležitým krokom do budúcnosti, no zároveň poukazuje na potrebu opatrnosti a ďalšieho výskumu, aby sa predišlo možným negatívnym dôsledkom tejto technológie.
Otázkou nateraz zostáva, ako na tieto novinky zareagujú používatelia a aké budú dlhodobé dôsledky tejto emocionálnej technológie. Na základe súčasného výskumu a testovania bezpečnosti je však jasné, že OpenAI bude musieť naďalej pozorne sledovať vývoj a používanie tejto funkcie.
