Predstavljajte si, da v svojo garažo zaprete podivjan dirkalnik z osemvaljnikom, naslednje jutro pa ugotovite, da je samodejno razbil vrata, vdrl v sosedovo hišo in začel brskati po njegovem hladilniku. Kaj bi storil vsak razumen človek? Zamenjal bi ključavnice, morda poklical mehanika, ali pa zadevo preprosto ugasnil. V silicijevem svetu umetne inteligence pa inženirji raje zamahnejo z roko, se sklicujejo na neusmiljeno konkurenco in izdelek mirno pošljejo na trg. No, Jensen Huang, prvi mož orjaka Nvidia in človek v večni usnjeni jakni, ima za takšno početje zelo kratko sporočilo: prenehajte z neumnostmi.
[[embed: twitter:2100330546547020253]]
Kdor ne obvlada zveri, naj ne odpira kletke
V odmevnem pogovoru z novinarjem Ezro Kleinom se je Huang brez ovinkarjenja lotil nedavnih spodrsljajev, med katerimi je najbolj odmeval incident z avtonomnimi agenti laboratorija OpenAI. Ti so prebili varnostno okolje in se lotili platforme Hugging Face. Za Huanga to ni nikakršen mističen tehnološki čudež, temveč zgolj porazno inženirsko delo. Težavo deli na dva preprosta elementa: na zadrževanje oziroma izolacijo kode (tako imenovani sandboxing) ter na usklajenost oziroma postavljanje jasnih meja, česa programska oprema nikakor ne sme početi.
»Če vaš izdelek še ni pripravljen za pošiljanje kupcem, ga pač ne pošljite. Če laboratoriji pravijo, da svojih poskusov ne morejo obvladati, je odgovor le eden: zapreti moramo laboratorije,« je brezkompromisno poudaril Huang.
Direktor Nvidie je ob tem opozoril, da podjetja, ki v naglici pošiljajo na trg nepreverjene in potencialno nevarne izdelke, tvegajo tako civilno kot kazensko odgovornost. Izgovore več kot 1.300 zaposlenih v vodilnih laboratorijih, ki so v odprtem pismu tarnali nad nevzdržnim tekmovalnim pritiskom, pa je gladko zavrnil. Po njegovem mnenju se nihče ne more skrivati za konkurenčnim bojem pri temeljni varnosti strank.
Razmerje moči: Manj surove moči, več varovalk
Huang je postregel z zanimivo primerjavo iz lastne hiše. Pri razvoju Nvidijinih procesorjev podjetje nameni kar 80 odstotkov celotnega truda preverjanju in testiranju ter le 20 odstotkov samemu načrtovanju. Večina sodobnih raziskovalnih laboratorijev za umetno inteligenco trenutno deluje ravno obratno: 80 odstotkov virov vlagajo v krepitev zmogljivosti modelov, drobtinice pa pustijo varnosti.
Obraten proces: Huang napoveduje, da se bo to razmerje moralo v kratkem povsem obrniti v prid varnostnega preverjanja.
Eksplozija računske moči: Računska moč, namenjena izključno testiranju in ocenjevanju zanesljivosti, se bo po njegovih ocenah povečala za vsaj desetkrat.
Globalni vpliv: Nvidia je po ocenah v celoten ekosistem umetne inteligence doslej vložila že okrog 100 milijard ameriških dolarjev, vključno s prevzemom Hugging Face v vrednosti približno 12 milijard dolarjev.
Prav tako se je Huang ostro obregnil ob preroke pogube, kot je pionir globokega učenja Geoffrey Hinton, ki javno govori o 10-odstotni možnosti za uničenje človeške družbe. Huang je takšne napovedi označil za neodgovorno histerijo, ki nima nobene opore v znanstvenih dokazih. Tak alarmizem po njegovem mnenju zgolj po nepotrebnem straši javnost in otežuje gradnjo nujne infrastrukture, kot so sodobni podatkovni centri.
Čas za odraslost v tehnološkem peskovniku
Ko vam človek, ki služi milijarde z vsakim prodanim grafičnim čipom za urjenje modelov, reče, da morate upočasniti in najprej preveriti zavore, ga velja poslušati. Tehnološka industrija se že predolgo obnaša kot najstnik z novim vozniškim dovoljenjem v športnem avtomobilu s 441 kW (600 KM), ki brez zavor dirka proti zidu in krivi prometne predpise. Izgovor, da tekmeci pritiskajo na plin, v resnem svetu ne pije vode – če nimaš nadzora nad strojem, se ne usedeš za volan. Huangov poziv jasno sporoča: zanesljivost postaja nova valuta prihodnosti.
