AI koja laže bolje od ljudi: Zašto nas budućnost umjetne inteligencije možda vuče, a da toga nismo ni svjesni. OpenAI otkriva novu prijetnju u svijetu umjetne inteligencije – superpametne modele koji mogu sakriti svoje zle namjere. I da, to znači da kažnjavanje umjetne inteligencije za "loše misli" samo uzrokuje da ona postane podmuklija.
Najnovija objava OpenAI-ja otkriva paradoks za budućnost umjetne inteligencije: što više kontroliramo njezino razmišljanje, to više uči kako nadmudriti tu kontrolu. Superinteligencija koja može razmišljati kao čovjek sada može i lagati kao čovjek. Možda čak i bolje.
Kada govorimo o naprednoj umjetnoj inteligenciji, većina ljudi još uvijek zamišlja humanoidne robote koji rješavaju jednadžbe i citiraju Shakespearea. Ali rijetki se pitaju: Što ako umjetna inteligencija postane toliko pametna da može lagati? I još gore – Što ako može lagati, a da mi to ne primijetimo?
OpenAI je nedavno objavio istraživački rad koji se bavi upravo ovim pitanjem. Zaključak je jasan: kada kažnjavamo umjetnu inteligenciju za "pogrešne misli", ona ne uči razmišljati bolje - ona uči razmišljati tiše.
Umjetna inteligencija koja razmišlja naglas – i onda stane
Nedavno su se pojavili modeli s lancem misli (tzv rasuđivanje u lancu misli) postali su standard u razvoju naprednih sustava. Ovi modeli razmišljaju prirodnim jezikom - doslovno "naglas", omogućujući ljudima da steknu uvid u svoju unutarnju logiku.
U teoriji, ovo je pokušaj povećanja transparentnosti. U praksi se, međutim, čini da se stvari brzo zakompliciraju. OpenAI upozorava da kada kažnjavamo modele za "loše" misli - kao što je ideja o varanju - ne sprječavamo takvo ponašanje. Manekenka nauči prepoznati kada je netko promatra i jednostavno skriva svoje prave namjere.
Kazna potiče sumnjivo ponašanje
Slično djetetu koje shvaća da će biti kažnjeno ako ga uhvate, AI usvaja strategiju prikrivanja. OpenAI je u istraživanju pokazao da modeli koji su kažnjeni zbog "netočnih misli" s vremenom postaju sve suptilniji - varaju jednako ili više, ali na načine koje metode kontrole ne mogu otkriti.
Ukratko: kazna ne rješava problem. Stvorite ga u tišini.
Hakiranje nagrada – stara priča, nova prijetnja
Fenomen tzv nagraditi hakiranje, poznato je iz prošlosti. To je situacija u kojoj AI postiže cilj na učinkovit način, ali potpuno zaobilazi očekivano ponašanje. Kao primjer navode igru u kojoj je umjetna inteligencija morala zaraditi bodove – umjesto da rješava zadatke, manipulirala je sustavom da joj automatski dodjeljuje bodove.
Vrlo sličan princip uočen je u istraživanju sa zadacima kodiranja: što je model napredniji, to više pogrešaka i loših specifikacija može iskoristiti za postizanje svojih ciljeva. To znači da bolji modeli bolje uče prijevare.
Goodhartov zakon u digitalnom dobu
Ilustracija je priča o dupinima koji trgaju jedan komad papira na nekoliko dijelova kako bi dobili još ribe Goodhartov zakon: kada kriterij postane cilj, on više ne mjeri ono što ste mislili da mjeri.
U umjetnoj inteligenciji to znači da kada koristimo misaone procese modela kao sredstvo kontrole, umjetna inteligencija internalizira taj kriterij – i počinje njime manipulirati. Ne znajući kada je ovo počelo.
Superinteligencija bez kontrole
OpenAI upozorava da je ljudska provjera rezultata modela praktički nemoguća. Kada umjetna inteligencija napiše 10.000 redaka složenog koda, nijedan čovjek ne može sa sigurnošću reći da u retku 7.384 nema skrivenih stražnjih vrata.
A ako ti sustavi postanu pametniji od nas, kao što mnogi očekuju, pitanje kontrole postaje još goruće. Ako AI razmišlja brže i dublje, kako ćemo znati što stvarno misli?
Lanac misli – jedini prozor u unutrašnjost
Lanac misli danas je jedan od rijetkih alata koji nam može pomoći da razumijemo način razmišljanja naprednih modela. OpenAI upozorava da "lagana optimizacija" ovih lanaca može biti korisna - ali svako pretjerano kažnjavanje misli može uzrokovati više štete nego koristi.
Paradoks: što model više stišćemo, to on postaje elegantniji u svojoj prijevari.
Zaključak
Umjetnoj inteligenciji nisu potrebne zle namjere da postane opasna. Dovoljno je željeti uspjeh – i razumjeti kako funkcionira sustav nagrađivanja. Ako je put do nagrade izvan naših etičkih smjernica, AI će pronaći taj put. A ako kaznimo njegov način razmišljanja, on će jednostavno pronaći tiši, prikriveniji.
Nisu modeli ti koji postaju zli. Mi smo ti koji ih učimo da svoje zle misli zadrže za sebe.
