OpenAI står inför oro för att användare kan utveckla ett känslomässigt beroende av ChatGPT:s nya röstfunktion. Trots dess begränsade tillgänglighet i Europa observeras redan problem som känslomässiga bindningar och manipulation av den mänskliga rösten. Funktionen fungerar med begränsningar och minne är inte tillgängligt, vilket påverkar användarupplevelsen.
OpenAI introducerade nyligen en ny talfunktion för ChatGPT som möjliggör realtidskonversationer med nästan mänsklig intonation och lyhördhet. Vid första anblicken är det en fascinerande teknik som är ett steg närmare scenarier från filmer som "Her". Men detta tekniska genombrott har också visat sig vara förenat med risker.
I den senaste analysen som publicerats av företaget fann forskare att vissa användare redan är känslomässigt fästa vid sina röstassistenter. Detta fenomen, som kallas "antropomorfisering", innebär att människor tillskriver teknologin mänskliga egenskaper, vilket kan leda till djup tillit och känslomässigt beroende av den.
Även om den här nya funktionen ger enorma möjligheter till interaktion, öppnar den också dörren för manipulation och missbruk. Säkerhetstester har visat att röstinmatningen också kan tjäna till att "jailbreaka" systemet, vilket gör att modellen kan korsa sina säkerhetsgränser och erbjuda svar som inte är avsedda. Dessutom är funktionen särskilt känslig för omgivande ljud, vilket kan orsaka oförutsägbart beteende som att imitera användarens egen röst.
Foto: pexels / theshantunukrEuropeiska användare har inte den här funktionen ännu, eftersom OpenAI rullar ut funktionen gradvis, och endast till ett begränsat antal användare, främst i USA. Dessutom fungerar funktionen med vissa begränsningar för närvarande, och minne ingår inte alls, vilket gör att systemet inte kan komma ihåg tidigare konversationer. Detta påverkar förstås den övergripande användarupplevelsen, som är något reducerad jämfört med användare i andra regioner.
Trots alla dessa utmaningar insisterar OpenAI på att utvecklingen av talfunktionen är ett viktigt steg in i framtiden, men pekar samtidigt på behovet av försiktighet och ytterligare forskning för att förhindra eventuella negativa konsekvenser av denna teknik.
Än så länge kvarstår frågan hur användare kommer att reagera på dessa innovationer och vad som blir de långsiktiga konsekvenserna av denna känslomässiga teknologi. Men baserat på aktuell forskning och säkerhetstester är det klart att OpenAI kommer att behöva fortsätta att noggrant övervaka utvecklingen och användningen av den här funktionen.
