OpenAI on huolissaan siitä, että käyttäjät voivat kehittää emotionaalisen riippuvuuden ChatGPT:n uudesta ääniominaisuudesta. Huolimatta sen rajallisesta saatavuudesta Euroopassa, ongelmia, kuten emotionaalista kiintymystä ja ihmisäänen manipulointia, havaitaan jo nyt. Ominaisuus toimii rajoituksin ja muistia ei ole saatavilla, mikä vaikuttaa käyttökokemukseen.
OpenAI esitteli äskettäin uuden ChatGPT:n puheominaisuuden, joka mahdollistaa reaaliaikaiset keskustelut lähes inhimillisellä intonaatiolla ja reagointikyvyllä. Ensi silmäyksellä se on kiehtova tekniikka, joka on askeleen lähempänä "Herin" kaltaisten elokuvien skenaarioita. Tämä teknologinen läpimurto on kuitenkin osoittautunut myös täynnä riskejä.
Yrityksen tuoreimmassa julkaisemassa analyysissä tutkijat havaitsivat, että jotkut käyttäjät ovat jo emotionaalisesti kiintyneet ääniavustajaansa. Tämä ilmiö, jota kutsutaan "antropomorfisaatioksi", tarkoittaa, että ihmiset antavat teknologialle inhimillisiä ominaisuuksia, mikä voi johtaa syvään luottamukseen ja emotionaaliseen riippuvuuteen siitä.
Vaikka tämä uusi ominaisuus tuo valtavia mahdollisuuksia vuorovaikutukseen, se avaa myös oven manipulaatiolle ja väärinkäytölle. Tietoturvatestit ovat osoittaneet, että puhesyöte voi myös toimia "jailbreak" -järjestelmän avulla, jolloin malli ylittää turvallisuusrajat ja tarjoaa vastauksia, joita ei ole tarkoitettu. Lisäksi ominaisuus on erityisen herkkä ympäristön äänille, jotka voivat aiheuttaa arvaamatonta käyttäytymistä, kuten käyttäjän oman äänen matkimista.
Eurooppalaisilla käyttäjillä ei vielä ole tätä ominaisuutta, koska OpenAI ottaa ominaisuuden käyttöön asteittain ja vain rajoitetulle määrälle käyttäjiä, pääasiassa Yhdysvalloissa. Lisäksi ominaisuus toimii toistaiseksi tietyin rajoituksin, eikä muistia ole mukana ollenkaan, mikä tarkoittaa, että järjestelmä ei muista aikaisempia keskusteluja. Tämä tietysti vaikuttaa yleiseen käyttökokemukseen, joka on jonkin verran heikompi verrattuna muiden alueiden käyttäjiin.
Kaikista näistä haasteista huolimatta OpenAI väittää, että puhetoiminnon kehittäminen on tärkeä askel tulevaisuuteen, mutta korostaa samalla varovaisuuden ja lisätutkimuksen tarvetta tämän tekniikan mahdollisten negatiivisten seurausten ehkäisemiseksi.
Toistaiseksi kysymys jää siitä, kuinka käyttäjät reagoivat näihin innovaatioihin ja mitkä ovat tämän tunneteknologian pitkän aikavälin seuraukset. Nykyisen tutkimuksen ja tietoturvatestauksen perusteella on kuitenkin selvää, että OpenAI:n on jatkossakin seurattava tarkasti tämän ominaisuuden kehitystä ja käyttöä.
