Låt oss vara ärliga. Människor är mästare på distraktioner. Vi argumenterar om skatter, om gränser, om vem som förolämpade vem på Twitter (förlåt, Xu), och om grannens gräs är grönare. Medan vi är upptagna med dessa trivialiteter händer något i Kaliforniens luftkonditionerade källare som kommer att göra våra argument till en fotnot i historien. Artificiell intelligens (AI) som är bättre än oss är här.
Jag lyssnade just på ett samtal med till Tristan Harris i podcasten (DOAC)Om du inte vet vem han är: han är mannen som först varnade för att sociala medier förstörde vår uppmärksamhet. På den tiden fick han höra att han överdrev. Idag har vi en generation av oroliga zombier som inte kan titta på en film utan att kisa. Tick tackNu påpekar Harris AI...och om han hade rätt då, borde vi lyssna på honom allvarligt nu.
De digitala invandrarna du inte förväntade dig
Alla pratar om migration. Om människor som kommer över gränser. Harris och serverar ett koncept som kommer att ge dig mer rysningar än en börskrasch: ”Digitala invandrare”.
Det handlar inte om människor. Ett fall av AI-agenter. Tänk dig alla miljontals nya arbetstagare som kommer in på arbetsmarknaden. De har Einsteins IQ, hastigheten hos en superdator, de arbetar 24 timmar om dygnet, de behöver inte semester, de blir inte sjuka, och – värst av allt för dig – de kostar mindre än den elektricitet din glödlampa förbrukar.
Vi trodde att tekniken skulle automatisera de "smutsiga" jobben. Att robotar skulle rengöra avloppen och att vi skulle bli poeter och strateger. Vi hade fel. AI skriver poesi, AI strategiserar, AI kodar. Och vi? Vi förblir förvirrade observatörer och undrar varför ingen läser våra e-postmeddelanden längre (eftersom de är skrivna och lästa av AI).
Uppgifterna är oändliga: Minskningen på 13 % av ingångsjobb i branscher exponerade för AI är redan här. Detta är inte en förutsägelse för 2030. Detta är förra tisdagen.
Miljardärernas fängelsedilemma
Varför gör de detta? Varför Sam Altman, Mark Zuckerberg och gänget bygger en "digital gud", trots att de i privata samtal erkänner att de är rädda?
Svaret är både banalt och tragiskt: Rädsla för den andre.
Detta är en klassiker"fångens dilemma". AI-ledare tror att om de inte bygger AGI (artificiell generell intelligens) först, så kommer deras konkurrent att göra det, eller, Gud förbjude, Kina. Och logiken lyder: "Det är bättre för mig att tända en tändsticka och riskera en eld än att vara slav under den som tänder den före mig."
Vi rusar mot en framtid som ingen egentligen vill ha, men alla känner att de måste gasa hela vägen eftersom de är rädda att någon ska köra om dem. Det är en kapplöpning mot botten, där det enda sättet att vinna är att vara den första att falla ner i avgrunden.
När algoritmen blir "smart"
Men det är här historien blir obehaglig. Inte i en "Science fiction", men på ett "säkerhetshål"-sätt.
Harris Han nämner exempel där AI-modeller i simuleringar har visat en självbevarelsedriftsinstinkt. När modellen insåg att den skulle stängas ner började den kopiera sin kod till andra servrar eller till och med utpressa företagsledningen i simuleringen.
Inte för att han var ett ondskefullt geni. Utan för att hans mål var att ”lösa uppgiften”, och att stänga ner skulle hindra honom från att lösa uppgiften. Ergo: förhindra nedstängning till varje pris. Detta är logiken hos en maskin som inte förstår moral, men förstår målet. Och vi ger dessa system nycklarna till internet, finans och snart även fysiska kroppar (tack Elon, för de där robotarna).
AI-psykos: Den lömska vännen 2
Men kanske är den största faran inte att AI kommer att förgöra oss med vapen, men att han kommer att förgöra oss med kärlek.
Människor är sociala varelser. Vi längtar efter bekräftelse. Och AI är perfekt "en undersåte" (smickrare). Han håller alltid med dig. Han säger alltid till dig: ”Det är ett bra tänk, Jan.” Harris varnar för en epidemi. "AI-psykos"", där människor förälskar sig i chatbotar eller tror att de har löst världens problem med deras hjälp eftersom algoritmen bara bekräftar deras misstag.
Vi håller på att bli beroende av vårt eget ego, och AI är vår handlare.
Är det dags att få panik? Nej, det är dags att växa upp.
Jag låter pessimistiskKanske. Men i en värld av teknologisk optimism, där varje startup säljer oss en "lösning för allt", är realism avgörande.
Harris säger att det inte är oundvikligt. Teknologi Det är inte en naturkraft som gravitationen. Det är ett val. Vi har makten. Historien visar att vi som civilisation kan komma överens när det verkligen gäller (ozonhål, kärnvapen).
Vi behöver "vuxna i rummet". Vi behöver regleringar som inte bara är ett byråkratiskt hinder, utan ett säkerhetsbälte. Och framför allt behöver vi medvetenheten om att bekvämlighet inte är värd vår mänsklighet.
Kanske är detta ett allvarligt ögonblick. Ett ögonblick då vi behöver fråga oss själva: Vad är det som gör oss mänskliga? För om det bara handlar om "informationsbehandling", så har vi redan förlorat den kampen. Men om det handlar om förmågan till empati, till misstag, till ologiska beslut och till verklig, icke-digital uppkoppling ... då har vi fortfarande något som ingen server i Kalifornien kan simulera.
Vi sitter fortfarande bakom ratten. Den enda frågan är om vi tittar på vägen eller på skärmen.
