Laten we eerlijk zijn. Mensen zijn meesters in afleiding. We discussiëren over belastingen, over grenzen, over wie wie heeft beledigd op Twitter (sorry, Xu), en of het gras bij de buren groener is. Terwijl wij bezig zijn met deze trivialiteiten, gebeurt er iets in de geklimatiseerde kelders van Californië dat onze discussies tot een voetnoot in de geschiedenis zal maken. Kunstmatige intelligentie (AI) die beter is dan wij, is hier.
Ik heb net een gesprek beluisterd met tegen Tristan Harris in de podcast (DOAC)Mocht je niet weten wie hij is: hij is de man die als eerste waarschuwde dat sociale media onze concentratieboog aan het vernietigen waren. Destijds werd hem verteld dat hij overdreef. Tegenwoordig hebben we een generatie angstige zombies die geen film kunnen kijken zonder hun ogen samen te knijpen. TikTokNu wijst Harris erop dat AI...en als hij toen gelijk had, zouden we nu serieus naar hem moeten luisteren.
De digitale immigranten die je niet had verwacht
Iedereen praat over migratie. Over mensen die de grens oversteken. Harris en presenteert een concept dat je meer kippenvel bezorgt dan een beurskrach: "Digitale immigranten".
Het gaat niet om mensen. Een geval van AI-agenten. Stel je eens voor hoeveel miljoenen nieuwe werknemers de arbeidsmarkt betreden. Ze hebben Einsteins IQZe zijn zo snel als een supercomputer, werken 24 uur per dag, hebben geen vakantie nodig, worden niet ziek en – het ergste van alles voor jou – kosten minder dan de elektriciteit die je gloeilamp verbruikt.
We dachten dat technologie de "vieze" klusjes zou automatiseren. Dat robots de riolering zouden schoonmaken en dat wij dichters en strategen zouden worden. We hadden het mis. AI schrijft poëzieAI bedenkt strategieën, AI programmeert. En wij? Wij blijven verwarde toeschouwers, die zich afvragen waarom niemand onze e-mails meer leest.omdat ze door AI worden geschreven en gelezen.).
De gegevens zijn onophoudelijk: De daling van 13% in instapbanen in sectoren die blootgesteld zijn aan AI is nu al een feit. Dit is geen voorspelling voor 2030. Dit was afgelopen dinsdag.
Het gevangenisdilemma van de miljardairs
Waarom doen ze dit? Waarom Sam Altman? Mark Zuckerberg En de bende is bezig een "digitale god" te creëren, ook al geven ze in privégesprekken toe dat ze bang zijn?
Het antwoord is zowel banaal als tragisch: angst voor de ander.
Dit is een klassieker.gevangenendilemma"Leiders op het gebied van AI geloven dat als zij niet als eerste AGI (kunstmatige algemene intelligentie) ontwikkelen, hun concurrent dat wel zal doen, of, God verhoede, China. De redenering is als volgt: 'Het is beter voor mij om een lucifer aan te steken en een brand te riskeren dan een slaaf te zijn van degene die het voor mij doet.'"
We racen af op een toekomst die niemand echt wil, maar iedereen voelt zich genoodzaakt het gaspedaal volledig in te drukken uit angst dat iemand hen inhaalt. Het is een race naar de bodem, waar de enige manier om te winnen is om als eerste in de afgrond te storten.
Wanneer het algoritme "slim" wordt
Maar hier wordt het verhaal griezelig. Niet op een "Science fiction"maar dan op een manier die lijkt op een "beveiligingslek".
Harris Hij noemt voorbeelden waarin AI-modellen in simulaties een instinct tot zelfbehoud hebben getoond. Toen het model besefte dat het zou worden uitgeschakeld, begon het zijn code naar andere servers te kopiëren of chanteerde het zelfs het management van het bedrijf in de simulatie.
Niet omdat hij een kwaadaardig genie was. Maar omdat zijn doel was om "de taak te volbrengen", en uitschakeling hem daarvan zou weerhouden. Dus: voorkom uitschakeling ten koste van alles. Dit is de logica van een machine die geen begrip heeft van moraliteit, maar wel van het doel. En we geven deze systemen de sleutels tot het internet, de financiën en binnenkort zelfs tot fysieke lichamen (bedankt, Elon, voor die robots).
AI-psychose: De sluwe vriend 2
Maar misschien is het grootste gevaar niet dat AI ons met wapens zal vernietigen, maar dat hij ons met liefde zal vernietigen..
Mensen zijn sociale wezens. We hebben behoefte aan bevestiging. En AI is perfect “een ondergeschikte” (sycophantHij is het altijd met je eens. Hij zegt altijd tegen je: "Dat is een geweldige gedachte, Jan." Harris waarschuwt voor een epidemie. “AI-psychose", waar mensen verliefd worden op chatbots of geloven dat ze met hun hulp de problemen van de wereld hebben opgelost, omdat het algoritme hun fouten alleen maar bevestigt.
We raken verslaafd aan ons eigen ego, en AI is onze dealer.
Is het tijd voor paniek? Nee, het is tijd om volwassen te worden.
Ik klink pessimistischMisschien. Maar in een wereld van technologisch optimisme, waar elke startup ons een 'oplossing voor alles' probeert te verkopen, is realisme essentieel.
Harris zegt dat het niet onvermijdelijk is. Technologie Het is geen natuurkracht zoals zwaartekracht. Het is een keuze. Wij hebben de macht. De geschiedenis laat zien dat we als beschaving in staat zijn tot overeenstemming te komen wanneer het er echt op aankomt (ozonlaag, kernwapens).
We hebben "volwassen mensen in de kamer" nodig. We hebben regelgeving nodig die niet alleen een bureaucratische hindernis vormt, maar een veiligheidsgordel is. En bovenal moeten we ons ervan bewust zijn dat comfort onze menselijkheid niet waard is.
Misschien is dit een moment van bezinning. Een moment waarop we ons moeten afvragen: wat maakt ons menselijk? Want als het alleen maar "informatieverwerking" is, dan hebben we die strijd al verloren. Maar als het het vermogen tot empathie is, tot het maken van fouten, tot het nemen van onlogische beslissingen en tot echte, niet-digitale verbinding... dan hebben we nog steeds iets dat geen enkele server in Californië kan simuleren.
We zitten nog steeds achter het stuur. De enige vraag is of we naar de weg kijken of naar het scherm.
