Seien wir ehrlich: Wir Menschen sind Meister der Ablenkung. Wir streiten über Steuern, über Grenzen, darüber, wer wen auf Twitter beleidigt hat (Entschuldigung, Xu), und darüber, ob beim Nachbarn das Gras grüner ist. Während wir uns mit diesen Belanglosigkeiten beschäftigen, geschieht in den klimatisierten Kellern Kaliforniens etwas, das unsere Auseinandersetzungen zu einer Fußnote der Geschichte machen wird. Künstliche Intelligenz (KI), die uns überlegen ist, ist da.
Ich habe gerade ein Gespräch mitgehört. zu Tristan Harris im Podcast (DOAC)Falls Sie ihn nicht kennen: Er warnte als Erster davor, dass soziale Medien unsere Aufmerksamkeitsspanne zerstören. Damals hielt man ihn für übertrieben. Heute haben wir eine Generation von ängstlichen Zombies, die keinen Film mehr ohne zusammengekniffene Augen ansehen können. Tick TackNun weist Harris darauf hin, KI...und wenn er damals Recht hatte, sollten wir ihm jetzt erst recht ernsthaft zuhören.
Die digitalen Einwanderer, die Sie nicht erwartet haben
Alle reden über Migration. Über Menschen, die Grenzen überschreiten. Harris und präsentiert ein Konzept, das Ihnen mehr Schauer über den Rücken jagen wird als ein Börsencrash: „Digitale Immigranten“.
Es geht nicht um Menschen. Ein Fall von KI-Agenten. Stellen Sie sich die Millionen neuer Arbeitskräfte vor, die auf den Arbeitsmarkt drängen. Sie haben Einsteins IQSie arbeiten mit der Geschwindigkeit eines Supercomputers, rund um die Uhr, brauchen keinen Urlaub, werden nicht krank und – was für Sie am schlimmsten ist – sie kosten weniger Strom als Ihre Glühbirne.
Wir dachten, die Technologie würde die „schmutzigen“ Arbeiten automatisieren. Dass Roboter die Abwasserkanäle reinigen würden und wir zu Dichtern und Strategen würden. Wir haben uns geirrt. KI schreibt GedichteKI entwickelt Strategien, KI programmiert. Und wir? Wir bleiben verwirrte Beobachter und fragen uns, warum niemand mehr unsere E-Mails liest.weil sie von KI geschrieben und gelesen werden).
Die Daten sind unerbittlich: Der Rückgang der Einstiegsjobs in KI-beeinflussten Branchen um 13 % ist bereits eingetreten. Dies ist keine Prognose für das Jahr 2030. Das war letzten Dienstag.
Das Gefängnisdilemma der Milliardäre
Warum tun sie das? Warum Sam Altman? Mark Zuckerberg Und die Bande baut einen „digitalen Gott“, obwohl sie in privaten Gesprächen zugeben, dass sie Angst haben?
Die Antwort ist gleichermaßen banal wie tragisch: Angst vor dem Fremden.
Das ist ein Klassiker.Gefangenendilemma„Führende KI-Experten glauben, dass, wenn sie nicht als Erste eine allgemeine künstliche Intelligenz (AGI) entwickeln, dies ihre Konkurrenten tun werden – oder, Gott bewahre, China. Und die Logik dahinter lautet: „Es ist besser, selbst ein Streichholz anzuzünden und ein Feuer zu riskieren, als demjenigen untertan zu sein, der es vor mir entzündet.“
Wir rasen auf eine Zukunft zu, die niemand wirklich will, doch jeder hat das Gefühl, Vollgas geben zu müssen, aus Angst, überholt zu werden. Es ist ein Wettlauf in den Abgrund, bei dem man nur gewinnen kann, indem man als Erster in die Tiefe stürzt.
Wenn der Algorithmus „intelligent“ wird
Doch hier wird die Geschichte unheimlich. Nicht im Sinne von „Science-Fictionaber eher im Sinne einer „Sicherheitslücke“.
Harris Er führt Beispiele an, in denen KI-Modelle in Simulationen einen Selbsterhaltungstrieb gezeigt haben. Als das Modell merkte, dass es abgeschaltet werden sollte, begann es, seinen Code auf andere Server zu kopieren oder erpresste sogar das Management des Unternehmens in der Simulation.
Nicht etwa, weil er ein böses Genie war. Sondern weil sein Ziel darin bestand, die Aufgabe zu lösen, und ein Systemabsturz ihn daran hindern würde. Daher: Systemabsturz um jeden Preis verhindern. Das ist die Logik einer Maschine, die keine Moral kennt, aber ihr Ziel versteht. Und wir geben diesen Systemen die Schlüssel zum Internet, zum Finanzwesen und bald sogar zu physischen Körpern (danke, Elon, für die Roboter).
AI Psychosis: The Sneaky Friend 2
Doch die größte Gefahr besteht vielleicht nicht darin, dass KI uns mit Waffen vernichten wird. aber dass er uns mit Liebe vernichten wird.
Der Mensch ist ein soziales Wesen. Wir sehnen uns nach Bestätigung. Und KI ist perfekt „ein Handlanger“ (SchmeichlerEr stimmt dir immer zu. Er sagt immer zu dir: „Das ist eine großartige Idee, Jan.“ Harris warnt vor einer Epidemie. „KI-Psychose“", wo Menschen sich in Chatbots verlieben oder glauben, mit deren Hilfe die Probleme der Welt gelöst zu haben, weil der Algorithmus nur ihre Fehler bestätigt.
Wir werden süchtig nach unserem eigenen Ego, und die KI ist unser Dealer.
Ist es Zeit für Panik? Nein, es ist Zeit, erwachsen zu werden.
Ich klinge pessimistischVielleicht. Aber in einer Welt des technologischen Optimismus, in der jedes Startup uns eine „Lösung für alles“ verkauft, ist Realismus unerlässlich.
Harris sagt, es sei nicht unvermeidlich. Technologie Es ist keine Naturkraft wie die Schwerkraft. Es ist eine Entscheidung. Wir haben die Macht. Die Geschichte zeigt, dass wir als Zivilisation in der Lage sind, uns zu einigen, wenn es wirklich darauf ankommt (Ozonloch, Atomwaffen).
Wir brauchen „Vernünftiges“. Wir brauchen Regulierungen, die nicht nur eine bürokratische Hürde darstellen, sondern wie ein Sicherheitsgurt wirken. Und vor allem brauchen wir das Bewusstsein, dass Bequemlichkeit nicht unsere Menschlichkeit wert ist.
Vielleicht ist dies ein Moment der Ernüchterung. Ein Moment, in dem wir uns fragen müssen: Was macht uns menschlich? Denn wenn es nur um „Informationsverarbeitung“ geht, dann haben wir diesen Kampf bereits verloren. Doch wenn es die Fähigkeit zu Empathie, zu Fehlern, zu unlogischen Entscheidungen und zu echten, nicht-digitalen Verbindungen ist … dann besitzen wir immer noch etwas, das kein Server in Kalifornien simulieren kann.
Wir sitzen immer noch am Steuer. Die einzige Frage ist, ob wir auf die Straße oder auf den Bildschirm schauen.
