Predstavljajte si sceno: v razkošni dvorani Bele hiše sedijo ljudje, ki imajo v rokah več računske moči, podatkov in potenciala za preoblikovanje človeštva, kot so si ga lahko kdajkoli zamislili pisci znanstvene fantastike. Na eni strani mize sedi Donald Trump, na drugi pa tehnološki panteon sodobnega sveta. Rezultat tega elitnega kosila? Podpis prostovoljnih varnostnih zavez glede razvoja tistega, kar smo do včeraj imenovali umetna inteligenca, od danes naprej pa uradno nosi naziv superinteligenca.
Kosilo titanov v Beli hiši: Kdo vse je sedel za mizo
Zbor je bil impresiven, skoraj filmski. Na povabilo so se odzvali praktično vsi ključni igralci silicijeve revolucije. Za isto mizo so sedeli prvi mož SpaceXa in omrežja X Elon Musk, vodja Mete Mark Zuckerberg, arhitekt grafičnih procesorjev pri Nvidii Jensen Huang, prvi obraz Googla Sundar Pichai, soustanovitelj OpenAI Greg Brockman ter direktor podjetja Anthropic Dario Amodei. Ko v eni sobi zbereš toliko procesorske moči in milijard, se običajno zgodi ena od dveh stvari: ali napovejo kolonizacijo Marsa ali pa podpišejo papir, ki lepo zveni pred televizijskimi kamerami.
Predsednik predstavniškega doma Mike Johnson je dogodek opisal kot prelomno skupno izjavo o načelih. Trump pa je šel še korak dlje v svojem značilnem slogu in novinarjem sporočil, da je sklenjeni dogovor »skoraj kot ustava«. Hkrati je z izvršnim ukazom poskrbel za semantično nadgradnjo: zvezna administracija se poslavlja od termina umetna inteligenca in uradno uvaja pojem superinteligenca. Zakaj bi ostali pri preprosti inteligenci, če je lahko super?
Zaveze brez lisic: Moč moralne obljube
Kaj ta dogovor dejansko prinaša v praksi? V ospredju so predvsem notranji nadzorni mehanizmi, varnostne ocene, zunanje revizije ter neposreden nadzor upravnih odborov. Podjetja so se prav tako zavezala k rednim skupnim posvetom, kjer bodo usklajevala varnostne standarde in preučevala tveganja, ki jih prinaša eksponentni razvoj algoritmov.
Vendar pa se ključni zaplet skriva v pravni naravi tega pakta. Ko so Trumpa neposredno vprašali, ali je ta dogovor pravno zavezujoč, je bil odgovor preprost in neposreden: gre za moralno zavezo. Po njegovih besedah v tehnološki panogi že obstaja izjemna mera samodiscipline, podjetja pa se menda sama dobro zavedajo, da morajo nadzorovati lastne stvaritve. Poleg tega je napovedal ustanovitev desetčlanskega odbora za spremljanje razvoja ter imenovanje posebnega zveznega koordinatorja za to področje v nekaj dneh.
Seveda vsi ne delijo tega optimizma. Demokratski senator Mark Warner je takoj opozoril, da je prepuščanje nadzora sami industriji precej tvegano početje. Po njegovem mnenju se algoritmi razvijajo s svetlobno hitrostjo, medtem ko vlada zgolj lepi nove nalepke na obstoječe tehnologije in poziva korporacije k samonadzoru, namesto da bi sprejela zavezujočo zakonodajo z obveznimi varnostnimi protokoli in poročanjem o incidentih.
Bodo velikani res nadzorovali sami sebe?
Ideja, da bodo tehnološki velikani, ki bijejo neizprosno bitko za prevlado na trgu, sami sebe zavirali zaradi moralnih načel, zveni rahlo naivno. To je nekoliko podobno temu, kot če bi Jeremyju Clarksonu zaupali ključe Ferrarija z 800 konjskimi močmi na prazni nemški avtocesti in pričakovali, da bo vozil točno po predpisih samo zato, ker je obljubil svoji mami. Konkurenčni boj med velikani, kot so Meta, Google, OpenAI in Muskove iniciative, ne dopušča postankov, saj tisti, ki prvi doseže preboj, pobere celotno pogačo.
Ta dogovor ni prišel z nobeno neposredno ceno za davkoplačevalce – vsaj za zdaj ne, saj so stroški revizij in varnostnih odborov preneseni na podjetja sama. Vendar pa bo prava cena tisto, kar tvegamo, če samoregulacija spodleti. Trumpov pakt je nedvomno privlačna politična predstava in odličen primer hitrega diplomatskega manevra z vplivnimi velesilami digitalne dobe, a prava zakonodaja bo morala slej ko prej dobiti zobe. Ali res verjamete, da lahko Silicijeva dolina uspešno nadzoruje samo sebe brez zavezujočih zakonov, ali pa je to zgolj kupovanje časa za nemoten razvoj?
