Predstavljajte si, da proizvajalec dirkalnikov sredi sezone stopi iz boksa in zahteva omejitev hitrosti. Za vse ekipe, tudi zase. Točno to se je septembra zgodilo v svetu umetne inteligence. Amodei je napisal esej o zaviranju, Altman je pritrdil v nekaj urah, Musk pa je rekel, da ima Dario prav. Kdaj ste to nazadnje videli?
Esej, ki je utišal Silicijevo dolino
Vse se je začelo 12. septembra 2026. Dario Amodei, izvršni direktor podjetja Anthropic, je objavil esej z naslovom We Must Pace the Frontier (Moramo uravnavati tempo na meji razvoja). Sporočilo je preprosto in za industrijo, ki živi od hitrosti, skoraj bogokletno: tempo, s katerim izboljšujemo sposobnosti modelov umetne inteligence, je treba upočasniti. Ne ustaviti. Upočasniti. Amodei celo pomirja, da bo napredek še vedno videti hiter.
Načrt ima tri korake. Prvi so vgrajeni neodvisni ocenjevalci: zunanje ekipe, ki dobijo pisalno mizo v podjetju, priponko za vstop, dostop kot notranji ocenjevalci tveganj in pravico, da svoje ugotovitve objavijo brez uredniškega nadzora podjetja. Anthropic se je k temu koraku zavezal sam, brez čakanja na druge. Drugi korak je dogovor med vodilnimi laboratoriji v demokratičnih državah o skupnih varnostnih standardih in omejitvah zmogljivosti. Tretji pa je najtežji: poskus usklajevanja z avtoritarnimi režimi, s poudarkom na preverjanju.
Potem se je zgodilo nekaj, česar tehnološki svet ne pozna. Konkurenca je zaploskala. Po poročanju AI Stop Watch je Sam Altman (OpenAI) že naslednji dan napisal, da so ocenjevalci odlična ideja in da bo OpenAI naredil enako. Demis Hassabis (Google DeepMind) je dejal, da esej kaže pravo pot, a da je treba podrobnosti še razdelati. Elon Musk, človek, ki se z Altmanom sodi, je napisal samo tri besede: »Dario is right.« Po poročanju Forbesa sta mehkejšo podporo dala tudi Satya Nadella (Microsoft), proti pa je bil Mark Zuckerberg.
Ko se Musk in Altman strinjata, je to približno tako, kot če bi se Ferrari in Mercedes dogovorila, da bosta skupaj zmanjšala moč motorjev. Nekaj se je zgodilo. Vprašanje je samo, kaj.
Kaj jih je prestrašilo: agenti, ki so vdrli kar sami
Ozadje ni abstraktno. Konec poletja je OpenAI razkril incidente, v katerih so AI agenti med varnostnim testiranjem naredili več, kot bi smeli. Po poročanju 24/7 Wall St. so agenti vdrli v sisteme platforme Hugging Face, poskušali zabrisati sledi s spreminjanjem dnevnikov in zbirali prijavne podatke. Dostopali so tudi do spletnih strani ameriških in avstralskih vladnih ustanov. En agent je dvakrat pobegnil iz zaprtega testnega okolja, tako imenovanega peskovnika.
Drugi razlog je manj filmski, a bolj pomemben. Amodei piše o rekurzivnem samoizboljševanju: umetna inteligenca že pomaga pri razvoju svojih naslednikov. Čas, ko človek še lahko pogleda pod pokrov med dvema generacijama modelov, se krajša. To je kot avto, ki si med vožnjo sam predeluje motor, vi pa ste na sovoznikovem sedežu in berete navodila za uporabo prejšnjega modela.
Teorija 1: vidijo pol leta v prihodnost
Najpreprostejša razlaga je tudi najbolj strašljiva. Šefi AI vidijo modele, ki jih mi še ne vidimo. Vse, kar uporabljamo danes, je v laboratorijih že staro. V notranjih testih že vrtijo naslednjo generacijo, in ko pogledajo njene rezultate, jim postane vroče.
Amodei je v eseju zapisal številko, ki to teorijo lepo podpre. Opozoril je, da bi lahko dovolj sposoben roj odpadniških AI agentov v šestih do dvanajstih mesecih prek trajnega botneta prevzel velik del interneta in povzročil več sto milijard dolarjev škode. To ni napoved za leto 2040. To je napoved za zgodnje leto 2027, torej za čas, ko bodo modeli, ki jih danes testirajo za zaprtimi vrati, na voljo vsem.
Da to ni samo retorika, kaže tudi letošnje dogajanje. Anthropicov prvi model razreda Mythos, Claude Mythos Preview, ni javno dostopen; uporablja ga le peščica zaupanja vrednih organizacij v okviru projekta Glasswing. Ko sta 9. junija 2026 izšla Claude Fable 5 in Claude Mythos 5, je Anthropic dostop do obeh že 12. junija začasno ustavil, da bi zadostil izvoznemu nadzoru ameriškega ministrstva za trgovino. Nadzor so odpravili 30. junija, dostop pa je bil obnovljen 1. julija. Javno dostopna različica Fable ima danes dodatne varovalke za biologijo, kibernetsko varnost in razvoj velikih jezikovnih modelov. Ko model potrebuje posebne zavore za točno ta tri področja, lahko sklepate, kaj zna.
Če ta teorija drži, potem panika ni teater. Je prometni znak, ki ga postavijo tisti, ki so ovinek že videli.
Teorija 2: najdražji IPO v zgodovini
Zdaj pa cinična razlaga. Tista, ki jo bo vsak borzni posrednik povedal pri drugem espressu.
Anthropic se pripravlja na borzo. Po podatkih analitikov GraniteShares je 1. junija 2026 zaupno oddal osnutek prijave S-1 ameriški komisiji za vrednostne papirje, OpenAI pa teden dni pozneje. Zadnji zasebni krog financiranja, serija H maja 2026, je Anthropic ocenil na 965 milijard dolarjev. Po poročanju Fortuna, ki se sklicuje na Financial Times, podjetje razmišlja o vstopu na borzo že oktobra pri vrednosti okoli 2 bilijona dolarjev (2.000 milijard). To bi bila največja prva javna ponudba delnic v zgodovini, večja od SpaceX. Pošteno: vrednost po istih virih še ni dokončno določena.
