Naj razložim, kje smo. 22. septembra je Trump pred Združenimi narodi umetno inteligenco preimenoval v superinteligenco. SI. Beseda »umetna« naj bi zvenela lažno. Lahko se smejite, ampak v eni stvari ima prav: ni več pomembno, ali je inteligenca umetna. Pomembno je, da je inteligenca.
Teden dni pozneje, 29. septembra, je Trump v Beli hiši napovedal še uradni dokument o preimenovanju. Ob njem so sedeli Elon Musk, Jensen Huang in Mark Zuckerberg. »Vsi se strinjamo glede tega,« je dejal. Industrija je besedo sicer vzela za svojo že prej. Sam Altman jo je januarja 2025 zapisal kot cilj podjetja OpenAI, Meta je junija 2025 vse svoje ekipe združila pod imenom Meta Superintelligence Labs.
Smo torej na točki, ki so ji še lani rekli splošna umetna inteligenca ali AGI: stroj, ki zna vse, kar zna človek. Jensen Huang, šef Nvidie, je marca letos pri Lexu Fridmanu povedal brez ovinkov: »Mislim, da je to zdaj. Mislim, da smo dosegli AGI.«
Da nas je stroj na mnogih področjih že presegel, ne zanika nihče, niti največji skeptiki. V šahu nas premaguje od leta 1997. Zgradbo beljakovin, ki so jo znanstveniki razvozlavali desetletja, napove v nekaj minutah. Pri Anthropicu napiše več kot 80 odstotkov kode. Prepir se vrti samo še okoli imena. Šef Microsofta Satya Nadella pravi, da AGI še nismo niti blizu. Yann LeCun trdi, da današnji modeli do človeške ravni ne bodo prišli. Dario Amodei iz Anthropica ji daje še eno do tri leta. Sam mislim, da je to prepir o tem, kdaj se fantu reče moški. Medtem ko odrasli razpravljajo, on že vozi avto.
Ko zvonijo ljudje, ki so zvonec zgradili
Prav zato po svetovnih medijih zadnje tedne odmeva vprašanje, ali nas lahko ta stvar izbriše s planeta. In ne postavljajo ga aktivisti s transparenti, postavljajo ga ljudje, ki jo gradijo. 8. septembra je raziskovalec Jacob Coxon zapustil Anthropic in javno zapisal, da ljudje, ki gradijo umetno inteligenco, iskreno verjamejo, da nas lahko ta do konca desetletja pobije. Objava je v enem dnevu zbrala več kot 100 milijonov ogledov. Nekaj ur pozneje je Evan Hubinger, ki pri istem podjetju vodi raziskave usklajenosti modelov, dodal številko: verjetnost izumrtja človeštva v naslednjih desetih letih ocenjuje na več kot 10 odstotkov.
Poštenost zahteva tudi drugo stran. Michael Vermeer iz inštituta RAND je za revijo Nature povedal, da so takšne napovedi bližje veri kot znanosti. Heidy Khlaaf iz AI Now Institute jim pravi strašenje in opozarja, da je resnični problem nezanesljivost sistemov, ki jih že danes spuščamo v okolja, kjer gre za življenja. Predsednika, ki je stvar pravkar preimenoval, izumrtje ne skrbi. Skrbi ga le, da bi tekmo izgubil.
Soglasja o koncu sveta torej ni. A za mojo poanto vam vanj sploh ni treba verjeti. Dovolj je, da razumete, kako ta stvar nastane.
Model ne nastane v tovarni, model zraste
In prav ker gre za inteligenco, imamo težavo, ki je večina ne razume. Modela nihče ne sprogramira, vrstico za vrstico. Model zraste. Iz podatkov, tako kot otrok iz okolja. Razvijalci ga med učenjem vztrajno navajajo, naj škodljive stvari zavrne, in večinoma jih res. Ampak to je vzgoja, ne zakon narave. Nihče ne more odpreti pokrova in pokazati na mesto, kjer je doma morala. Ne zato, ker bi bili inženirji leni. Zato, ker inteligence ne sestaviš kot motor, kjer poznaš vsak vijak. Inteligenca nastane. In česar nisi sestavil, ne moreš prebrati. Lahko samo opazuješ, kako se obnaša.
Natanko tako kot pri človeku. Možgane nosimo s sabo ves dan, pa jih ne razumemo. Zato otroku zaupamo po 18 letih opazovanja in še takrat mu najprej damo izpit za avto, ne ključev od jedrske elektrarne.
Veda, ki poskuša stroju pogledati v glavo, obstaja, a je šele na začetku. Razvijalci sami priznavajo, da delovanja svojih modelov ne razumejo v celoti. Da je morala naučena navada in ne značajska lastnost, pa dokazujejo kar sami: ko želijo izmeriti, česa je model v resnici zmožen, mu zavore preprosto popustijo. Kot gumb za glasnost.
Varnostnik pred vrati
Ker stroju ne vidimo v glavo, smo mu pred vrata postavili varnostnika. Preizkusil sem vse modele, tudi lokalne brez filtrov, in vzorec je povsod isti. Groku naročite sliko, ki je ne bi smel narediti. Mislite, da bo stroj rekel: »Oprostite, to je v nasprotju z mojimi globokimi moralnimi načeli«? Kje pa. Če ukaz prelisiči prvi filter, stroj sliko nariše do zadnje pike. Šele potem priteče zadihan varnostnik in jo zamegli. Slika obstaja. Vi je samo ne vidite. To ni morala. To je cenzura rezultata.
