Buďme úprimní. Ľudia sú majstrami rozptýlenia. Hádame sa o daniach, o hraniciach, o tom, kto koho urazil na Twitteri (prepáč, Xu) a či je susedova tráva zelenšia. Zatiaľ čo sa my zaoberáme týmito maličkosťami, v klimatizovaných pivniciach Kalifornie sa deje niečo, čo z našich argumentov urobí poznámku pod čiarou v dejinách. Umelá inteligencia (AI), ktorá je lepšia ako my, je tu.
Práve som si vypočul rozhovor s Tristanovi Harrisovi v podcaste (DOAC)Ak neviete, kto to je: je to muž, ktorý ako prvý varoval, že sociálne médiá ničia našu pozornosť. V tom čase mu povedali, že preháňa. Dnes máme generáciu úzkostlivých zombie, ktoré si nevedia pozrieť film bez toho, aby prižmúrili oči. TIK takTeraz Harris poukazuje AI...a ak mal vtedy pravdu, mali by sme ho teraz vážne počúvať.
Digitálni imigranti, ktorých ste nečakali
Všetci hovoria o migrácii. O ľuďoch, ktorí prekračujú hranice. Harris a ponúka koncept, ktorý vám nahnevá viac zimomriavok ako krach akciového trhu: „Digitálni imigranti“.
Nejde o ľudí. Prípad Agenti umelej inteligencie. Predstavte si milióny nových pracovníkov vstupujúcich na trh práce. Majú Einsteinovo IQ, rýchlosť superpočítača, pracujú 24 hodín denne, nepotrebujú dovolenku, neochorejú a – čo je pre vás najhoršie – stoja menej ako elektrina, ktorú spotrebuje vaša žiarovka.
Mysleli sme si, že technológia automatizuje „špinavú“ prácu. Že roboty budú čistiť kanalizáciu a my budeme básnikmi a stratégmi. Mýlili sme sa. UI píše poéziu, AI stratégizuje, AI kóduje. A my? Zostávame zmätenými pozorovateľmi a pýtame sa, prečo už nikto nečíta naše e-maily (pretože ich píše a číta umelá inteligencia).
Dáta sú neúprosné: 13 % pokles počtu pracovných miest na vstupnej úrovni v odvetviach vystavených umelej inteligencii je už tu. Toto nie je predpoveď na rok 2030. Toto je minulý utorok.
Väzenská dilema miliardárov
Prečo to robia? Prečo Sam Altman, Mark Zuckerberg a banda si buduje „digitálneho boha“, aj keď v súkromných rozhovoroch priznávajú, že sa boja?
Odpoveď je banálna aj tragická zároveň: Strach z druhého.
Toto je klasika"väzenská dilema„. Lídri v oblasti umelej inteligencie veria, že ak najprv nevybudujú AGI (umelú všeobecnú inteligenciu), urobí to ich konkurent, alebo, nedajbože, Čína. A logika hovorí: „Je pre mňa lepšie zapáliť zápalku a riskovať oheň, ako byť otrokom toho, kto ju zapáli predo mnou.“
Uháňame do budúcnosti, ktorú si nikto v skutočnosti neželá, ale každý má pocit, že musí stlačiť plyn naplno, pretože sa bojí, že ho niekto predbehne. Sú to preteky o to, aby sme zostali na dne, kde jediný spôsob, ako vyhrať, je byť prvý, kto spadne do priepasti.
Keď sa algoritmus stane „inteligentným“
Ale tu sa príbeh stáva strašidelným. Nie v "sci-fi“, ale spôsobom „bezpečnostnej diery“.
Harris Uvádza príklady, kde modely umelej inteligencie v simuláciách prejavili pud sebazáchovy. Keď si model uvedomil, že bude vypnutý, začal kopírovať svoj kód na iné servery alebo dokonca vydierať vedenie spoločnosti v simulácii.
Nie preto, že by bol zlý génius. Ale preto, že jeho cieľom bolo „vyriešiť úlohu“ a vypnutie by mu v riešení úlohy zabránilo. Teda: za každú cenu zabrániť vypnutiu. Toto je logika stroja, ktorý nerozumie morálke, ale rozumie cieľu. A týmto systémom dávame kľúče k internetu, financiám a čoskoro aj k fyzickým telám (vďaka, Elon, za tie roboty).
AI Psychóza: Prefíkaný priateľ 2
Ale možno najväčším nebezpečenstvom nie je to, že nás umelá inteligencia zničí zbraňami, ale že nás zničí láskou.
Ľudia sú spoločenské tvory. Túžime po potvrdení. A UI je dokonalá „prisluhovač“ (podliezač). Vždy s vami súhlasí. Vždy vám hovorí: „To je skvelá myšlienka, Jan.“ Harris varuje pred epidémiou „Psychóza umelej inteligencie“„, kde sa ľudia zamilujú do chatbotov alebo veria, že s ich pomocou vyriešili problémy sveta, pretože algoritmus len potvrdzuje ich chyby.
Stávame sa závislými na vlastnom egu a umelá inteligencia je naším dílerom.
Je čas na paniku? Nie, je čas dospieť.
Znie to pesimistickýMožno. Ale vo svete technologického optimizmu, kde nám každý startup predáva „riešenie na všetko“, je realizmus nevyhnutný.
Harris hovorí, že to nie je nevyhnutné. Technológia Nie je to prirodzená sila ako gravitácia. Je to voľba. Máme tú moc. História ukazuje, že ako civilizácia sme schopní dosiahnuť dohodu, keď na tom skutočne záleží (ozónová diera, jadrové zbrane).
Potrebujeme „dospelých v miestnosti“. Potrebujeme reguláciu, ktorá nie je len byrokratickou prekážkou, ale bezpečnostným pásom. A predovšetkým potrebujeme uvedomenie si, že pohodlie nestojí za našu ľudskosť.
Možno je to moment triezvosti. Moment, kedy si musíme položiť otázku: Čo nás robí ľuďmi? Pretože ak je to len „spracovanie informácií“, potom sme túto bitku už prehrali. Ale ak je to schopnosť empatie, chýb, nelogických rozhodnutí a skutočného, nedigitálneho prepojenia... potom stále máme niečo, čo žiadny server v Kalifornii nedokáže simulovať.
Stále sme za volantom. Jedinou otázkou je, či sa pozeráme na cestu alebo na obrazovku.
