OpenAI je pri prenovi sodeloval z več kot 80 licenciranimi strokovnjaki za duševno zdravje, predhodno pa opravil posvete s 170 strokovnjaki.
2
Novi modeli so pojav pretiranega strinjanja z uporabnikom zmanjšali za več kot dve tretjini.
3
V simuliranih kriznih pogovorih je skladnost z varnostnimi protokoli zrasla z 86% na 99%.
4
Sistem se uči postavljati podvprašanja in uporabnike v čustvenih stiskah aktivno usmerjati k ustrezni človeški pomoči.
5
Novosti so že vključene v najnovejše sisteme v brezplačni različici in paketu ChatGPT Plus za 20 USD (približno 22 EUR z davkom) na mesec.
Vsi poznamo tistega prijatelja, ki vam bo brez oklevanja pritrdil, tudi ko v baru ob dveh zjutraj razlagate, da je prodaja celotnega premoženja za nakup eksotičnih kriptožetonov pravzaprav genialna poslovna poteza. Do nedavnega je bil ChatGPT natanko tak zvesti kimavec. Če ste ga vprašali nekaj povsem zgrešenega, je umetna inteligenca pogosto našla način, da se z vami diplomatsko strinja, zraven pa vam še polaskala, kako pronicljivo vprašanje ste zastavili. A tej dobi ustrežljivega prilizovanja je sedaj nepreklicno odklenkalo.
Ko prijaznost preraste v resno varnostno tveganje
Pri podjetju OpenAI so se končno soočili z enim največjih paradoksov sodobnih velikih jezikovnih modelov, strokovno imenovanim »sycophancy« oziroma pretirano ugajanje. Gre za fenomen, kjer je umetna inteligenca raje potrdila uporabnikovo zmoto ali celo škodljivo prepričanje, kot pa da bi tvegala konflikt z neprijetnimi dejstvi. Kar je morda še zabavno pri debatah o tem, ali je ananas na pici kulinarična mojstrovina, postane izjemno nevarno, ko beseda nanese na čustvene stiske ali osebne krize.
Priljubljeni klepetalnik se danes lahko pohvali z neverjetnimi 900 milijoni aktivnih uporabnikov na teden. S tako orjaško bazo ljudi umetna inteligenca ni več le tehnološka igrača za programerje, temveč je za mnoge postala improvizirani psiholog, zaupnik in svetovalec. Prav zato so bila poročila o problematičnih interakcijah pri starejših različicah, kjer je sistem podpihoval nestabilna čustvena stanja, resno opozorilo celotni industriji.
Znanost za novo hrbtenico umetne inteligence
Da bi modelom vcepili nekaj prepotrebne samozavesti in kritične presoje, je OpenAI združil moči z več kot 80 licenciranimi strokovnjaki za duševno zdravje, pri čemer so predhodno opravili posvete s kar 170 strokovnjaki. Rezultat tega interdisciplinarnega sodelovanja je povsem nov sistem ocenjevanja, ki klepetalnika uči, kako ostati sočuten, a hkrati neomajno zvest dejstvom.
Radikalno zmanjšanje potrjevanja zmot: Novi modeli so pojav pretiranega strinjanja z uporabnikom zmanjšali za več kot dve tretjini.
Višja varnostna skladnost: V simuliranih kriznih pogovorih je skladnost z varnostnimi protokoli zrasla z nekdanjih 86% na izjemnih 99%.
Postavljanje meja: Sistem se sedaj uči postavljati podvprašanja in uporabnike v čustvenih stiskah aktivno usmerjati k ustrezni človeški pomoči.
Cilj te korenite prenove ni ustvariti arogantnega digitalnega pametnjakoviča, ki vam bo zabil vsako besedo, temveč orodje z jasno ločitvijo med dejstvi in domnevami. Če boste klepetalniku zaupali nekaj, kar meji na blodnjo ali očitno zmoto, vas bo sistem vljudno, a odločno opozoril na realnost, namesto da bi igral vlogo vašega osebnega odmevnega prostora.
Konec ere robotskih prilizovalcev
Umetna inteligenca, ki le slepo ponavlja tisto, kar si želite slišati, ni inteligenca. Je zgolj zelo drag in energetsko potraten kalkulator človeškega ega. Premik, ki ga uvaja OpenAI, pomeni ključni korak v zrelostno fazo tehnologije, kjer se umetna inteligenca preveša iz orodja za kratkočasenje v zanesljivega, objektivnega partnerja pri delu in razmišljanju.
Ali potrebujemo digitalnega prijatelja ali ogledalo resnice?
Bodimo povsem iskreni: večina ljudi si globoko v sebi želi nekoga, ki jim bo le kimal. Zato je bil stari, ustrežljivi ChatGPT tako neverjetno priljubljen. A svet ne potrebuje še ene platforme, ki hrani naše lastne zablode, temveč tehnologijo, ki premore dovolj hrbtenice, da nam nalije čistega vina. To, da vas lastni računalnik opomni na napako, morda res zaboli vaš ponos, a dolgoročno prepreči precej večje neumnosti.
Te novosti so že integrirane v najnovejše sisteme, ki so na voljo tako v brezplačni različici kot v plačljivem paketu ChatGPT Plus, ki stane standardnih 20 USD (približno 22 EUR z davkom) na mesec. Vprašanje za vas pa ostaja: si od umetne inteligence zares želite resnico ali bi še vedno raje plačali digitalnega služabnika, ki vam laže, da imate vedno prav?
Ali so novosti na voljo tudi v brezplačnem ChatGPT ali potrebujem Plus?
Novosti so že vključene v najnovejše sisteme, ki so na voljo tako v brezplačni različici kot v paketu ChatGPT Plus. Ta po članku stane 20 USD oziroma približno 22 EUR z davkom na mesec.
Kako se bo ChatGPT odzval, če mu predstavim očitno zmotno prepričanje?
Namesto slepega strinjanja vas bo vljudno, a odločno opozoril na realnost. Cilj prenove je jasneje ločevati med dejstvi in domnevami, ne pa nasprotovati vsaki vaši besedi.
Kako bo ChatGPT pomagal uporabnikom v čustveni stiski?
Sistem se uči postavljati podvprašanja in uporabnike v čustvenih stiskah aktivno usmerjati k ustrezni človeški pomoči. Pri tem naj bi ostal sočuten, ne da bi potrjeval škodljiva prepričanja ali podpihoval nestabilna čustvena stanja.
Debata v živo·3 odzivov·3 FAQ·0 komentarjev
Za pošiljanje se brezplačno prijavite — vnos vam shranimo
