OpenAI čelí obavám, že si uživatelé mohou vyvinout emocionální závislost na nové hlasové funkci ChatGPT. I přes jeho omezenou dostupnost v Evropě jsou již nyní pozorovány problémy, jako jsou citové vazby a manipulace s lidským hlasem. Funkce funguje s omezeními a paměť není k dispozici, což ovlivňuje uživatelský dojem.
OpenAI nedávno představilo novou funkci řeči pro ChatGPT, která umožňuje konverzace v reálném čase s téměř lidskou intonací a odezvou. Na první pohled je to fascinující technologie, která je o krok blíže scénářům z filmů jako „Ona“. Ukázalo se však, že tento technologický průlom je také plný rizik.
V nejnovější analýze zveřejněné společností výzkumníci zjistili, že někteří uživatelé jsou již emocionálně připoutáni ke svým hlasovým asistentům. Tento fenomén zvaný „antropomorfizace“ znamená, že lidé připisují lidské vlastnosti technologii, což může vést k hluboké důvěře a emoční závislosti na ní.
I když tato nová funkce přináší obrovské příležitosti pro interakci, otevírá také dveře manipulaci a zneužití. Bezpečnostní testy ukázaly, že hlasový vstup může sloužit i k „útěku z vězení“ systému, což modelu umožňuje překročit své bezpečnostní hranice a nabízet odpovědi, které nejsou zamýšleny. Kromě toho je tato funkce obzvláště citlivá na okolní zvuky, které mohou způsobit nepředvídatelné chování, jako je napodobování vlastního hlasu uživatele.
Foto: pexels / theshantunukrEvropští uživatelé tuto funkci zatím nemají, protože OpenAI tuto funkci zavádí postupně a pouze pro omezený počet uživatelů, zejména v USA. Funkce také zatím funguje s určitými omezeními a paměť není zahrnuta vůbec, což znamená, že si systém nepamatuje předchozí konverzace. To samozřejmě ovlivňuje celkovou uživatelskou zkušenost, která je oproti uživatelům v jiných regionech poněkud omezená.
Navzdory všem těmto výzvám OpenAI trvá na tom, že vývoj řečové funkce je důležitým krokem do budoucnosti, ale zároveň poukazuje na nutnost opatrnosti a dalšího výzkumu, aby se předešlo možným negativním důsledkům této technologie.
Otázkou zatím zůstává, jak budou uživatelé na tyto novinky reagovat a jaké budou dlouhodobé důsledky této emocionální technologie. Na základě aktuálního výzkumu a bezpečnostních testů je však jasné, že OpenAI bude muset vývoj a používání této funkce nadále pečlivě sledovat.
