Sam Altman, prvi mož družbe OpenAI, se je odločil svet ponovno opomniti na to, kdo v resnici drži volan prihodnosti. V seriji odmevnih objav je dal jasno vedeti: OpenAI pri upočasnjevanju razvoja umetne inteligence ne bo čakala na togi ameriški kongres ali zapletene mednarodne zakonodajne okvire. Ko se dirkalnik giblje s svetlobno hitrostjo, preprosto nimaš časa čakati na birokrate, da narišejo prometne znake in postavijo ležeče policaje.
Zadeva je preprosta in hkrati fascinantna. Altman se je pridružil pozivom generalnega direktorja družbe Anthropic, Daria Amodeija, ki je predlagal nadzorovan tempo napredovanja najnaprednejših modelov oziroma tako imenovanega frontier AI. A medtem ko je Amodei v Vašingtonu prosil za izjemo pri protimonopolni zakonodaji, da bi se tekmeci sploh smeli zakonito pogovarjati o skupnem zaviranju, Altman sporoča, da OpenAI ne potrebuje blagoslova politikov. Zavoro bodo pritisnili sami, ko bodo ocenili, da je to potrebno.
Upočasnitev ne pomeni kapitulacije
Kaj torej ta sprememba pomeni v praksi? Pri OpenAI temeljito spreminjajo svojo varnostno strategijo. V preteklosti so se tako imenovani protokoli odgovornega skaliranja osredotočali predvsem na že dokončane modele – kar je podobno preverjanju varnosti vozila, ko je to že zapeljalo s proizvodne linije. Zdaj pa pišejo podrobne varnostne ocene (safety cases) že med samim treniranjem novih modelov, še preden ti sploh dosežejo svoje prelomne zmogljivosti.
“Ko govorimo o prilagajanju tempa, to ne pomeni, da se ustavljamo,” poudarja Altman.
Napredek bo preprosto za spoznanje počasnejši, kot bi lahko bil, saj temeljito spremljanje in varnostni testi zahtevajo ogromno finančnih sredstev in računske moči. Po njegovem mnenju nikakršen tekmovalni pritisk ne sme opravičiti nepremišljenosti ali dovoliti, da bi tehnološke zmogljivosti prehitele njihovo usklajenost z človeškimi vrednotami ter ustrezen nadzor.
Dva scenarija za tehnološko apokalipso
Altman je ob tem razkril tudi dve največji nevarnosti, zaradi katerih po njegovem mnenju razvoj algoritmov lahko zavije v popolnoma neprijetno smer:
- Izguba nadzora nad prihodnostjo: Katastrofalni scenarij, v katerem umetna inteligenca postane tako napredna in samostojna, da nadvlada človeštvo. Za Altmana je to popolnoma nesprejemljivo.
- Prevelika koncentracija moči: Druga nevarnost je bolj politična in družbena. Če en sam človek, eno podjetje ali ena država pridobi nadzor nad izjemno močnim sistemom AI, ga lahko uporabi za vnatanje svojih pogledov celemu svetu, kar bi vodilo v izjemno distopijo.
