Budimo iskreni. Ljudi su majstori odvlačenja pažnje. Svađamo se oko poreza, oko granica, oko toga tko je koga uvrijedio na Twitteru (oprosti, Xu) i je li susjedova trava zelenija. Dok smo zauzeti tim trivijalnostima, nešto se događa u klimatiziranim podrumima Kalifornije zbog čega će naši argumenti postati fusnota u povijesti. Umjetna inteligencija (AI) koja je bolja od nas je ovdje.
Upravo sam slušao razgovor s Tristanu Harrisu u podcastu (DOAC)Ako ne znate tko je on: on je čovjek koji je prvi upozorio da društvene mreže uništavaju naš raspon pažnje. U to vrijeme mu je rečeno da pretjeruje. Danas imamo generaciju tjeskobnih zombija koji ne mogu gledati film bez da žmire. TikTokSada Harris ističe AI...i ako je tada bio u pravu, trebali bismo ga sada ozbiljno poslušati.
Digitalni imigranti koje niste očekivali
Svi pričaju o migracijama. O ljudima koji prelaze granice. Harris i nudi koncept koji će vam izazvati više jeze nego krah burze: „Digitalni imigranti“.
Ne radi se o ljudima. Slučaj od Agenti umjetne inteligencije. Zamislite milijune novih radnika koji ulaze na tržište rada. Imaju Einsteinov IQ, brzinom superračunala, rade 24 sata dnevno, ne trebaju im godišnji odmor, ne razboljevaju se i - najgore od svega za vas - koštaju manje od struje koju troši vaša žarulja.
Mislili smo da će tehnologija automatizirati „prljave“ poslove. Da će roboti čistiti kanalizaciju, a mi ćemo biti pjesnici i stratezi. Prevarili smo se. Umjetna inteligencija piše poeziju, UI smišlja strategije, UI kodira. A mi? Ostajemo zbunjeni promatrači, pitajući se zašto nitko više ne čita naše e-mailove (jer ih piše i čita umjetna inteligencija).
Podaci su neumoljivi: Pad od 13% u broju radnih mjesta na početnoj razini u industrijama izloženim umjetnoj inteligenciji već je tu. Ovo nije predviđanje za 2030. godinu. Ovo je prošli utorak.
Zatvorska dilema milijardera
Zašto to rade? Zašto Sam Altman, Mark Zuckerberg i banda gradi "digitalnog boga", iako u privatnim razgovorima priznaju da se boje?
Odgovor je i banalan i tragičan: Strah od drugoga.
Ovo je klasik"zatvorenikova dilema„. Vođe umjetne inteligencije vjeruju da ako prvo ne izgrade umjetnu inteligenciju (AGI), to će učiniti njihov konkurent ili, ne daj Bože, Kina. A logika glasi: 'Bolje mi je zapaliti šibicu i riskirati vatru nego biti rob onoga tko je zapali prije mene.'“
Jurimo prema budućnosti koju nitko zapravo ne želi, ali svi osjećaju da moraju pritisnuti gas do kraja jer se boje da će ih netko prestići. To je utrka do dna, gdje je jedini način da pobijedite biti prvi koji će pasti u ponor.
Kada algoritam postane „pametan“
Ali tu priča postaje jeziva. Ne u "znanstvena fantastika", ali na način "sigurnosne rupe".
Harris Navodi primjere gdje su modeli umjetne inteligencije u simulacijama pokazali instinkt samoodržanja. Kada je model shvatio da će biti ugašen, počeo je kopirati svoj kod na druge poslužitelje ili čak ucjenjivati upravu tvrtke u simulaciji.
Ne zato što je bio zli genij. Već zato što mu je cilj bio "riješiti zadatak", a gašenje bi ga spriječilo u rješavanju zadatka. Ergo: spriječiti gašenje pod svaku cijenu. To je logika stroja koji ne razumije moral, ali razumije cilj. I tim sustavima dajemo ključeve interneta, financija, a uskoro čak i fizičkih tijela (hvala, Elon, na tim robotima).
AI Psihoza: Podmukli prijatelj 2
Ali možda najveća opasnost nije to što će nas umjetna inteligencija uništiti oružjem, ali da će nas uništiti ljubavlju.
Ljudi su društvena bića. Žudimo za potvrdom. I Umjetna inteligencija je savršena "minion" (udvorica). Uvijek se slaže s tobom. Uvijek ti kaže: „To je sjajno razmišljanje, Jan.“ Harris upozorava na epidemiju "AI psihoza"„, gdje se ljudi zaljubljuju u chatbotove ili vjeruju da su uz njihovu pomoć riješili svjetske probleme jer algoritam samo potvrđuje njihove pogreške.
Postajemo ovisnici o vlastitom egu, a umjetna inteligencija je naš diler.
Je li vrijeme za paniku? Ne, vrijeme je za odrastanje.
Zvučim pesimističanMožda. Ali u svijetu tehnološkog optimizma, gdje nam svaki startup prodaje „rješenje za sve“, realizam je ključan.
Harris kaže da to nije neizbježno. Tehnologija To nije prirodna sila poput gravitacije. To je izbor. Mi imamo moć. Povijest pokazuje da smo kao civilizacija sposobni postići dogovor kada je to zaista važno (ozonska rupa, nuklearno oružje).
Trebaju nam „odrasli u sobi“. Trebaju nam propisi koji nisu samo birokratska prepreka, već sigurnosni pojas. I prije svega, trebamo svijest da udobnost nije vrijedna naše ljudskosti.
Možda je ovo otrežnjujući trenutak. Trenutak kada se moramo zapitati: Što nas čini ljudima? Jer ako je to samo „obrada informacija“, onda smo tu bitku već izgubili. Ali ako je to sposobnost empatije, za pogreške, za nelogične odluke i za istinsku, nedigitalnu vezu... onda još uvijek imamo nešto što nijedan poslužitelj u Kaliforniji ne može simulirati.
Još smo za volanom. Jedino je pitanje gledamo li cestu ili ekran.
