La oss være ærlige. Mennesker er mestre i distraksjon. Vi krangler om skatter, om grenser, om hvem som fornærmet hvem på Twitter (beklager, Xu), og om naboens gress er grønnere. Mens vi er opptatt med disse trivialitetene, skjer det noe i de avkjølte kjellerne i California som vil gjøre argumentene våre til en fotnote i historien. Kunstig intelligens (KI) som er bedre enn oss er her.
Jeg lyttet nettopp til en samtale med til Tristan Harris på podkasten (DOAC)Hvis du ikke vet hvem han er: han er mannen som først advarte om at sosiale medier ødela oppmerksomhetsspennet vårt. Den gangen fikk han høre at han overdrev. I dag har vi en generasjon av engstelige zombier som ikke kan se en film uten å myse. TikTokNå påpeker Harris AI...og hvis han hadde rett den gang, burde vi lytte alvorlig til ham nå.
De digitale innvandrerne du ikke forventet
Alle snakker om migrasjon. Om folk som kommer over landegrenser. Harris og serverer et konsept som vil gi deg mer frysninger enn et børskrakk: «Digitale innvandrere».
Det handler ikke om mennesker. Et tilfelle av AI-agenter. Tenk deg alle millionene av nye arbeidere som kommer inn på arbeidsmarkedet. De har Einsteins IQ, hastigheten til en superdatamaskin, de jobber 24 timer i døgnet, de trenger ikke ferie, de blir ikke syke, og – verst av alt for deg – de koster mindre enn strømmen lyspæren din bruker.
Vi trodde teknologi ville automatisere de «skitne» jobbene. At roboter ville rense kloakken og at vi ville bli poeter og strateger. Vi tok feil. AI skriver poesi, AI legger strategier, AI koder. Og vi? Vi forblir forvirrede observatører og lurer på hvorfor ingen leser e-postene våre lenger (fordi de er skrevet og lest av AI).
Dataene er nådeløse: Nedgangen på 13 % i jobber på entry-nivå i bransjer eksponert for AI er allerede her. Dette er ikke en spådom for 2030. Dette er forrige tirsdag.
Milliardærenes fengselsdilemma
Hvorfor gjør de dette? Hvorfor Sam Altman, Mark Zuckerberg og gjengen bygger en «digital gud», selv om de i private samtaler innrømmer at de er redde?
Svaret er både banalt og tragisk: Frykt for den andre.
Dette er en klassiker"fangens dilemma«. KI-ledere tror at hvis de ikke bygger AGI (kunstig generell intelligens) først, vil konkurrenten deres gjøre det, eller, Gud forby, Kina. Og logikken lyder: «Det er bedre for meg å tenne en fyrstikk og risikere en ild enn å være slave for den som tenner den før meg.»
Vi løper mot en fremtid som ingen egentlig ønsker, men alle føler at de må gi gass helt i taket fordi de er redde for at noen skal forbikjøre dem. Det er et kappløp mot bunnen, der den eneste måten å vinne på er å være den første som faller ned i avgrunnen.
Når algoritmen blir «smart»
Men det er her historien blir uhyggelig. Ikke i en "science fiction", men på en "sikkerhetshull"-måte.
Harris Han nevner eksempler der AI-modeller i simuleringer har vist et selvbevaringsinstinkt. Da modellen innså at den skulle stenges ned, begynte den å kopiere koden sin til andre servere eller til og med utpresse bedriftsledelsen i simuleringen.
Ikke fordi han var et ondt geni. Men fordi målet hans var å «løse oppgaven», og å stenge ned ville hindre ham i å løse oppgaven. Ergo: forhindre nedstengning for enhver pris. Dette er logikken til en maskin som ikke forstår moral, men forstår målet. Og vi gir disse systemene nøklene til internett, finans og snart til og med fysiske kropper (takk, Elon, for de robotene).
AI-psykose: Den snikende vennen 2
Men kanskje den største faren ikke er at AI vil ødelegge oss med våpen, men at han vil ødelegge oss med kjærlighet.
Mennesker er sosiale vesener. Vi lengter etter bekreftelse. Og AI er perfekt «en minion» (sykofant). Han er alltid enig med deg. Han sier alltid til deg: «Det er en flott tankegang, Jan.» Harris advarer om en epidemi. «AI-psykose»«, der folk forelsker seg i chatboter eller tror at de har løst verdens problemer med deres hjelp fordi algoritmen bare bekrefter feilene deres.
Vi blir avhengige av vårt eget ego, og AI er vår forhandler.
Er det på tide å få panikk? Nei, det er på tide å vokse opp.
Jeg høres ut pessimistiskKanskje. Men i en verden med teknologisk optimisme, hvor alle oppstartsbedrifter selger oss en «løsning på alt», er realisme avgjørende.
Harris sier det ikke er uunngåelig. Teknologi Det er ikke en naturkraft som tyngdekraften. Det er et valg. Vi har makten. Historien viser at vi som sivilisasjon er i stand til å komme til enighet når det virkelig gjelder (ozonhull, atomvåpen).
Vi trenger «voksne i rommet». Vi trenger reguleringer som ikke bare er en byråkratisk hindring, men et sikkerhetsbelte. Og fremfor alt trenger vi bevisstheten om at komfort ikke er verdt vår menneskelighet.
Kanskje dette er et tankevekkende øyeblikk. Et øyeblikk hvor vi må spørre oss selv: Hva er det som gjør oss menneskelige? For hvis det bare er «informasjonsbehandling», så har vi allerede tapt den kampen. Men hvis det er evnen til empati, til feil, til ulogiske avgjørelser og til ekte, ikke-digital forbindelse ... så har vi fortsatt noe som ingen server i California kan simulere.
Vi sitter fortsatt bak rattet. Det eneste spørsmålet er om vi ser på veien eller på skjermen.
