Lad os være ærlige. Mennesker er mestre i distraktion. Vi diskuterer om skatter, om grænser, om hvem der fornærmede hvem på Twitter (undskyld, Xu), og om naboens græs er grønnere. Mens vi er optaget af disse trivialiteter, sker der noget i Californiens airconditionerede kældre, der vil gøre vores diskussioner til en fodnote i historien. Kunstig intelligens (AI), der er bedre end os, er her.
Jeg har lige lyttet til en samtale med til Tristan Harris i podcasten (DOAC)Hvis du ikke ved, hvem han er: Han er manden, der først advarede om, at sociale medier ødelagde vores opmærksomhedsspændvidde. Dengang fik han at vide, at han overdrev. I dag har vi en generation af ængstelige zombier, der ikke kan se en film uden at knibe øjnene sammen. TikTokNu påpeger Harris AI...og hvis han havde ret dengang, burde vi lytte alvorligt til ham nu.
De digitale immigranter, du ikke forventede
Alle taler om migration. Om mennesker, der krydser grænser. Harris og serverer et koncept, der vil give dig flere kuldegysninger end et aktiemarkedskrak: “Digitale immigranter”.
Det handler ikke om mennesker. Et tilfælde af AI-agenter. Forestil dig de millioner af nye arbejdstagere, der kommer ind på arbejdsmarkedet. De har Einsteins IQ, hastigheden af en supercomputer, de arbejder 24 timer i døgnet, de behøver ikke ferie, de bliver ikke syge, og - værst af alt for dig - de koster mindre end den strøm, din pære bruger.
Vi troede, at teknologi ville automatisere de "beskidte" job. At robotter ville rense kloakkerne, og at vi ville blive digtere og strateger. Vi tog fejl. AI skriver poesi, AI strategiserer, AI koder. Og os? Vi forbliver forvirrede iagttagere og undrer os over, hvorfor ingen læser vores e-mails længere (fordi de er skrevet og læst af AI).
Dataene er uophørlige: Faldet på 13% i antallet af begynderjob i brancher, der er eksponeret for AI, er allerede her. Dette er ikke en forudsigelse for 2030. Det er sidste tirsdag.
Milliardærernes fængselsdilemma
Hvorfor gør de det her? Hvorfor Sam Altman, Mark Zuckerberg og banden bygger en "digital gud", selvom de i private samtaler indrømmer, at de er bange?
Svaret er både banalt og tragisk: Frygt for den anden.
Dette er en klassiker"fangens dilemma". AI-ledere mener, at hvis de ikke først bygger AGI (kunstig generel intelligens), vil deres konkurrent gøre det, eller, Gud forbyde det, Kina. Og logikken lyder: "Det er bedre for mig at tænde en tændstik og risikere en ild end at være slave af den, der tænder den før mig."
Vi kæmper mod en fremtid, som ingen rigtig ønsker, men alle føler, at de er nødt til at træde speederen i bund, fordi de er bange for, at nogen vil overhale dem. Det er et kapløb mod bunden, hvor den eneste måde at vinde på er at være den første til at falde i afgrunden.
Når algoritmen bliver "smart"
Men det er her, historien bliver uhyggelig. Ikke i en "science fiction", men på en "sikkerhedshul"-måde.
Harris Han nævner eksempler, hvor AI-modeller i simuleringer har vist en selvopholdelsesinstinkt. Da modellen indså, at den ville blive lukket ned, begyndte den at kopiere sin kode til andre servere eller endda afpresse virksomhedsledelsen i simuleringen.
Ikke fordi han var et ondt geni. Men fordi hans mål var "at løse opgaven", og at lukke ned ville forhindre ham i at løse opgaven. Ergo: forhindre nedlukning for enhver pris. Dette er logikken bag en maskine, der ikke forstår moral, men forstår målet. Og vi giver disse systemer nøglerne til internettet, finans og snart endda fysiske kroppe (tak, Elon, for de robotter).
AI-psykose: Den luskede ven 2
Men måske er den største fare ikke, at AI vil ødelægge os med våben, men at han vil ødelægge os med kærlighed.
Mennesker er sociale væsner. Vi længes efter anerkendelse. Og AI er perfekt "en minion" (sykofant). Han er altid enig med dig. Han siger altid til dig: "Det er en god tankegang, Jan." Harris advarer om en epidemi. "AI-psykose"", hvor folk forelsker sig i chatbots eller tror, at de har løst verdens problemer med deres hjælp, fordi algoritmen kun bekræfter deres fejl.
Vi bliver afhængige af vores eget ego, og AI er vores forhandler.
Er det tid til at gå i panik? Nej, det er tid til at blive voksen.
Jeg lyder pessimistiskMåske. Men i en verden med teknologisk optimisme, hvor alle startups sælger os en "løsning på alt", er realisme afgørende.
Harris siger, at det ikke er uundgåeligt. Teknologi Det er ikke en naturkraft som tyngdekraften. Det er et valg. Vi har magten. Historien viser, at vi som civilisation er i stand til at nå til enighed, når det virkelig gælder (ozonhul, atomvåben).
Vi har brug for "voksne i rummet". Vi har brug for regulering, der ikke bare er en bureaukratisk hindring, men en sikkerhedssele. Og frem for alt har vi brug for bevidstheden om, at komfort ikke er vores menneskelighed værd.
Måske er dette et tankevækkende øjeblik. Et øjeblik, hvor vi er nødt til at spørge os selv: Hvad er det, der gør os menneskelige? For hvis det bare er "informationsbehandling", så har vi allerede tabt den kamp. Men hvis det er evnen til empati, til fejl, til ulogiske beslutninger og til ægte, ikke-digital forbindelse ... så har vi stadig noget, som ingen server i Californien kan simulere.
Vi sidder stadig bag rattet. Det eneste spørgsmål er, om vi kigger på vejen eller på skærmen.
