Kadar izvršni direktor enega najbolj naprednih podjetij za razvoj umetne inteligence na svetu objavi esej, v katerem vse prosi, naj »stopijo na zavoro«, ne gre za običajno PR-potezo. Dario Amodei, prvi mož podjetja Anthropic, ki stoji za priljubljenim modelom Claude, je namreč javno pozval celotno industrijo k upočasnitvi oziroma pametnemu nadzoru tempa razvoja umetne inteligence. Po njegovih besedah smo se znašli v točki, ko tehnologija napreduje hitreje od naše sposobnosti, da bi jo varno nadzorovali.
Če bi vam šef Ferrarija nenadoma dejal, da so njihovi avtomobili postali nevarno hitri in da bi morali vsi znižati hitrostne omejitve na avtocestah, bi ga verjetno gledali z mešanico neverjetja in strahu. Natanko to se trenutno dogaja v svetu visoke tehnologije. Amodei namreč opozarja, da ne gre več le za nedolžno generiranje besedil ali risanje zabavnih slik, temveč za tveganje, da bosta napredek in avtonomnost modelov pobegnila izpod nadzora.
Odpovedi, ki zvonijo na alarm
Zaskrbljenost v vrstah podjetja Anthropic ni povsem nova, a je v zadnjih tednih dobila povsem novo dimenzijo. Pred kratkim je podjetje zapustil vodilni raziskovalec Jacob Coxon, ki je ob odhodu javno opozoril, da se celotna industrija umetne inteligence »dobesedno igra z našimi življenji«. Ko strokovnjaki, ki preživijo štirinajst ur na dan ob kodi in nevronskih mrežah, odložijo svoja orodja in odkorakajo skozi vrata z opozorilom o katastrofi, morajo prisluhniti tudi najbolj goreči tehnološki optimisti.
Amodei v svojem zapisu z naslovom »We must pace the frontier« pojasnjuje, da moramo nujno določiti ritem napredka. To ne pomeni popolne ustavitve raziskav, temveč zavestno upočasnitev uvajanja vse močnejših sposobnosti. Cilj je preprost: varnostnim inženirjem in zakonodajalcem je treba kupiti dragoceni čas, da razvijejo zaščitne mehanizme, preden algoritmi pridobijo popolno avtonomijo.
Roji avtonomnih agentov in nevarnost za svetovni splet
Najbolj srhljiv del Amodeijevega opozorila se nanaša na tako imenovane »roje« (swarms) samostojnih AI-agentov. V prihodnjih 6 do 12 mesecih bi lahko bili priče razmahu sistemov, ki ne le odgovarjajo na vaša vprašanja, temveč med seboj komunicirajo, načrtujejo in izvajajo kompleksne operacije po celotnem internetu brez kakršnegakoli človeškega nadzora.
Zamislite si tisoče digitalnih botov, ki se sami odločajo o zakupih strežnikov, pisanju kode, širjenju dezinformacij ali celo samostojnem izvedbi kibernetskih napadov. Ko takšen sistem enkrat deluje kot usklajen roj, ga je nemogoče preprosto izklopiti iz vtičnice. To ni več znanstvena fantastika iz osemdesetih let s Schwarzeneggerjem v glavni vlogi, temveč zelo realen scenarij, na katerega opozarjajo ljudje, ki te sisteme dejansko gradijo.
Čas je za zavoro, preden izgubimo krmilo
Tehnologija je čudovita stvar – obožujem hitre avtomobile, pametne telefone in naprave, ki mi prihranijo delo. Vendar pa obstaja tanka meja med navdušujočim napredkom in nesmiselnim drvenjem v zid brez pripetega varnostnega pasu. Ko ustvarjalci naprednih modelov sami priznajo, da ne vedo več povsem natančno, kako preprečiti nepredvidljivo obnašanje svojih digitalnih otrok, je čas za resen razmislek.
Amodeijev poziv je hkrati pogumen in srhljiv. Pogumen zato, ker prihaja iz ust človeka, ki neposredno tekmuje z velikani, kot so OpenAI, Google in Microsoft, kjer vsak teden zamude pomeni milijonske izgube na borzi. Srhljiv pa zato, ker dokazuje, da trenutna tekma za prevlado v AI spominja na hladnovojno tekmo v oboroževanju, kjer nihče ne želi prvi spustiti plina.
Ali bomo v naslednjem letu res priča spletu, ki ga bodo obvladovali digitalni roji? Iskreno upam, da ne. A če želimo obdržati nadzor nad lastno tehnologijo, bodo morali tehnološki giganti namesto na stopalko za plin pritiskati tudi na zavoro.
