OpenAI wordt geconfronteerd met zorgen dat gebruikers een emotionele verslaving kunnen ontwikkelen aan de nieuwe stemfunctie van ChatGPT. Ondanks de beperkte beschikbaarheid ervan in Europa worden er al problemen waargenomen zoals emotionele gehechtheden en manipulatie van de menselijke stem. De functie werkt met beperkingen en er is geen geheugen beschikbaar, wat de gebruikerservaring beïnvloedt.
OpenAI heeft onlangs een nieuwe spraakfunctie voor ChatGPT geïntroduceerd die realtime gesprekken mogelijk maakt met bijna menselijke intonatie en reactievermogen. Op het eerste gezicht is het een fascinerende technologie die een stap dichter bij scenario's uit films als 'Her' komt. Deze technologische doorbraak blijkt echter ook vol risico's te zitten.
In de laatste analyse die het bedrijf heeft gepubliceerd, ontdekten onderzoekers dat sommige gebruikers al emotioneel gehecht zijn aan hun stemassistenten. Dit fenomeen, dat ‘antropomorfisering’ wordt genoemd, houdt in dat mensen menselijke kwaliteiten aan technologie toeschrijven, wat kan leiden tot een diep vertrouwen en emotionele afhankelijkheid ervan.
Hoewel deze nieuwe functie enorme mogelijkheden voor interactie biedt, opent het ook de deur voor manipulatie en misbruik. Uit beveiligingstests is gebleken dat de steminvoer ook kan dienen om het systeem te ‘jailbreaken’, waardoor het model zijn veiligheidsgrenzen kan overschrijden en antwoorden kan bieden die niet bedoeld zijn. Bovendien is de functie bijzonder gevoelig voor omgevingsgeluiden, wat onvoorspelbaar gedrag kan veroorzaken, zoals het imiteren van de eigen stem van de gebruiker.
Europese gebruikers beschikken nog niet over deze functie, aangezien OpenAI de functie geleidelijk uitrolt, en slechts voor een beperkt aantal gebruikers, voornamelijk in de VS. Bovendien werkt de functie voorlopig met bepaalde beperkingen en is er helemaal geen geheugen inbegrepen, wat betekent dat het systeem eerdere gesprekken niet kan onthouden. Dit heeft uiteraard invloed op de algehele gebruikerservaring, die enigszins verminderd is in vergelijking met gebruikers in andere regio’s.
Ondanks al deze uitdagingen benadrukt OpenAI dat de ontwikkeling van de spraakfunctie een belangrijke stap in de toekomst is, maar wijst tegelijkertijd op de noodzaak van voorzichtigheid en verder onderzoek om mogelijke negatieve gevolgen van deze technologie te voorkomen.
Voorlopig blijft de vraag hoe gebruikers op deze innovaties zullen reageren en wat de langetermijngevolgen van deze emotionele technologie zullen zijn. Op basis van huidig onderzoek en beveiligingstests is het echter duidelijk dat OpenAI de ontwikkeling en het gebruik van deze functie nauwlettend zal moeten blijven volgen.
