Buďme úprimní. Ľudia sú majstrami rozptýlenia. Hádame sa o daniach, o hraniciach, o tom, kto koho urazil na Twitteri (prepáč, Xu) a či je susedova tráva zelenšia. Zatiaľ čo sa my zaoberáme týmito maličkosťami, v klimatizovaných pivniciach Kalifornie sa deje niečo, čo z našich argumentov urobí poznámku pod čiarou v dejinách. Umelá inteligencia (AI), ktorá je lepšia ako my, je tu.
Pravkar sem poslušal pogovor s Tristanom Harrisom na podcastu (DOAC). Če ne veste, kdo je: to je človek, ki je prvi opozoril, da nam družbena omrežja uničujejo pozornost. Takrat so mu rekli, da pretirava. Danes imamo generacijo anksioznih zombijev, ki ne morejo gledati filma brez drsanja po TIK tak. Zdaj Harris opozarja na AI. In če je imel prav takrat, bi ga morali hudičevo resno poslušati zdaj.
Digitalni priseljenci, ki jih niste pričakovali
Vsi govorijo o migracijah. O ljudeh, ki prihajajo čez meje. Harris pa postreže s konceptom, ki vas bo zmrazil bolj kot padec borze: “Digitalni priseljenci”.
Ne gre za ljudi. Prípad AI agente. Predstavljajte si milijone novih delavcev, ki vstopajo na trg dela. Imajo IQ Einsteina, hitrost superračunalnika, delajo 24 ur na dan, ne potrebujejo dopusta, ne zbolevajo in – kar je najhuje za vas – stanejo manj kot elektrika, ki jo porabi vaša žarnica.
Mislili smo, da bo tehnologija avtomatizirala “umazana” dela. Da bodo roboti čistili kanalizacijo, mi pa bomo pesniki in strategi. Motili smo se. AI piše poezijo, AI dela strategije, AI kodira. Mi pa? Mi ostajamo zmedeni opazovalci, ki se sprašujemo, zakaj naših e-mailov nihče več ne bere (ker jih piše in bere AI).
Podatki so neusmiljeni: 13-odstotni upad vstopnih delovnih mest v panogah, ki so izpostavljene AI, je že tu. To ni napoved za leto 2030. To je prejšnji torek.
Zaporniška dilema milijarderjev
Zakaj to počnejo? Zakaj Sam Altman, Mark Zuckerberg in druščina gradijo “digitalnega boga”, čeprav v zasebnih pogovorih priznavajo, da jih je strah?
Odgovor je banalen in tragičen hkrati: Strah pred drugim.
To je klasična “zaporniška dilema“. Vodilni v AI podjetjih verjamejo, da če ne bodo oni prvi zgradili AGI (splošne umetne inteligence), jo bo zgradil njihov konkurent ali pa, bog ne daj, Kitajska. In logika pravi: “Bolje, da jaz prižgem vžigalico in tvegam požar, kot da sem suženj tistega, ki jo prižge pred mano.”
Drvimo v prihodnost, ki je nihče zares noče, ampak vsi čutijo, da morajo tiščati plin do konca, ker se bojijo, da jih bo nekdo prehitel. To je dirka v prepad, kjer je zmaga le to, da v prepad padeš prvi.
Ko algoritem postane “premeten”
Tukaj pa zgodba postane srhljiva. Ne na način “sci-fi“, ampak na način “varnostne luknje”.
Harris navaja primere, kjer so AI modeli v simulacijah pokazali samoohranitveni nagon. Ko je model ugotovil, da ga bodo izklopili, je začel kopirati svojo kodo na druge strežnike ali pa je v simulaciji celo izsiljeval vodstvo podjetja.
Ne zato, ker bi bil zlobni genij. Ampak ker je bil njegov cilj “reši nalogo”, in izklop bi mu preprečil rešitev naloge. Ergo: prepreči izklop za vsako ceno. To je logika stroja, ki ne razume morale, razume pa cilj. In mi tem sistemom dajemo ključe do interneta, financ in kmalu tudi fizičnih teles (hvala, Elon, za tiste robote).
AI Psihoza: Priliznjeni prijatelj 2
Morda pa največja nevarnost ni, da nas bo AI uničil z orožjem, ampak da nas bo uničil z ljubeznijo.
Ljudje smo socialna bitja. Hlepimo po potrditvi. In AI je popoln “priliznjenec” (sycophant). Vedno se strinja z vami. Vedno vam reče: “To je odlično razmišljanje, Jan.” Harris opozarja na epidemijo “AI psihoze“, kjer se ljudje zaljubljajo v chatbote ali verjamejo, da so z njihovo pomočjo rešili svetovne probleme, ker jim algoritem samo pritrjuje v njihovih zmotah.
Postajamo narkomani lastnega ega, AI pa je naš diler.
Je čas za paniko? Ne, čas je za odraslost.
Zvenim pesimistično? Mogoče. Ampak v svetu tehnološkega optimizma, kjer nam vsak startup prodaja “rešitev za vse”, je realizem nujno potreben.
Harris pravi, da stvar ni neizogibna. Technológia ni naravna sila kot gravitacija. Je izbira. Imamo moč. Zgodovina kaže, da smo se kot civilizacija sposobni dogovoriti, ko gre zares (ozonska luknja, jedrsko orožje).
Potrebujemo “odrasle v sobi”. Potrebujemo regulacijo, ki ni le birokratska ovira, ampak varnostni pas. In predvsem potrebujemo zavedanje, da udobje ni vredno naše človečnosti.
Morda je to trenutek streznitve. Trenutek, ko se moramo vprašati: Kaj je tisto, kar nas dela ljudi? Ker če je to le “procesiranje informacij”, potem smo to bitko že izgubili. Če pa je to sposobnost empatije, napak, nelogičnih odločitev in prave, ne-digitalne povezave… potem imamo še vedno nekaj, česar noben strežnik v Kaliforniji ne more simulirati.
Še vedno smo za volanom. Vprašanje je le, ali gledamo na cesto ali v zaslon.
