OpenAI čelí obavám, že používatelia si môžu vyvinúť emocionálnu závislosť na novej hlasovej funkcii ChatGPT. Napriek jeho obmedzenej dostupnosti v Európe sa už pozorujú problémy, ako sú citové väzby a manipulácia s ľudským hlasom. Funkcia funguje s obmedzeniami a pamäť nie je k dispozícii, čo ovplyvňuje používateľskú skúsenosť.
OpenAI nedávno predstavila novú funkciu reči pre ChatGPT, ktorá umožňuje konverzácie v reálnom čase s takmer ľudskou intonáciou a odozvou. Na prvý pohľad je to fascinujúca technológia, ktorá je o krok bližšie k scenárom z filmov ako „Ona“. Tento technologický prelom sa však ukázal aj ako plný rizík.
V najnovšej analýze zverejnenej spoločnosťou výskumníci zistili, že niektorí používatelia sú už emocionálne pripútaní k svojim hlasovým asistentom. Tento fenomén nazývaný „antropomorfizácia“ znamená, že ľudia pripisujú ľudské vlastnosti technológiám, čo môže viesť k hlbokej dôvere a emocionálnej závislosti od nich.
Aj keď táto nová funkcia prináša obrovské príležitosti na interakciu, zároveň otvára dvere manipulácii a zneužitiu. Bezpečnostné testy ukázali, že hlasový vstup môže slúžiť aj na „útek z väzenia“ systému, čo umožňuje modelu prekročiť hranice bezpečnosti a ponúkať odpovede, ktoré nie sú určené. Okrem toho je táto funkcia obzvlášť citlivá na okolité zvuky, ktoré môžu spôsobiť nepredvídateľné správanie, ako napríklad napodobňovanie vlastného hlasu používateľa.
Foto: pexels / theshantunukrEurópski používatelia túto funkciu zatiaľ nemajú, pretože OpenAI túto funkciu zavádza postupne a len pre obmedzený počet používateľov, najmä v USA. Tiež funkcia zatiaľ funguje s určitými obmedzeniami a pamäť nie je zahrnutá vôbec, čo znamená, že systém si nepamätá predchádzajúce konverzácie. To, samozrejme, ovplyvňuje celkovú používateľskú skúsenosť, ktorá je v porovnaní s používateľmi v iných regiónoch o niečo znížená.
Napriek všetkým týmto výzvam OpenAI trvá na tom, že vývoj funkcie reči je dôležitým krokom do budúcnosti, no zároveň poukazuje na potrebu opatrnosti a ďalšieho výskumu, aby sa predišlo možným negatívnym dôsledkom tejto technológie.
Otázkou nateraz zostáva, ako na tieto novinky zareagujú používatelia a aké budú dlhodobé dôsledky tejto emocionálnej technológie. Na základe súčasného výskumu a testovania bezpečnosti je však jasné, že OpenAI bude musieť naďalej pozorne sledovať vývoj a používanie tejto funkcie.
