Bądźmy szczerzy. Ludzie są mistrzami odwracania uwagi. Kłócimy się o podatki, o granice, o to, kto kogo obraził na Twitterze (przepraszam, Xu) i o to, czy u sąsiada trawa jest bardziej zielona. Podczas gdy my jesteśmy zajęci tymi błahostkami, w klimatyzowanych piwnicach Kalifornii dzieje się coś, co sprawi, że nasze kłótnie staną się przypisem w historii. Sztuczna inteligencja (AI), która jest od nas lepsza, jest już tutaj.
Właśnie słuchałem rozmowy z do Tristana Harrisa w podcaście (DOAC)Jeśli nie wiesz, kim on jest: to on jako pierwszy ostrzegał, że media społecznościowe niszczą naszą koncentrację. Wtedy powiedziano mu, że przesadza. Dziś mamy pokolenie znerwicowanych, niespokojnych zombie, które nie potrafią oglądać filmu bez mrużenia oczu. TIK TokTeraz Harris wskazuje sztuczna inteligencja...i jeśli miał rację wtedy, to powinniśmy go teraz uważnie posłuchać.
Cyfrowi imigranci, których się nie spodziewałeś
Wszyscy mówią o migracji. O ludziach przekraczających granice. Harris i przedstawia koncepcję, która wywoła u Ciebie większe dreszcze niż krach na giełdzie: „Cyfrowi imigranci”.
Nie chodzi o ludzi. Przypadek Agenci AI. Wyobraź sobie miliony nowych pracowników wchodzących na rynek pracy. Mają IQ Einsteina, z szybkością superkomputera, pracują 24 godziny na dobę, nie potrzebują urlopu, nie chorują, a co najgorsze dla Ciebie, kosztują mniej prądu niż zużywa Twoja żarówka.
Myśleliśmy, że technologia zautomatyzuje „brudne” prace. Że roboty będą czyścić kanały, a my będziemy poetami i strategami. Myliliśmy się. Sztuczna inteligencja pisze poezję, AI opracowuje strategie, AI koduje. A my? Pozostajemy zdezorientowanymi obserwatorami, zastanawiającymi się, dlaczego nikt już nie czyta naszych e-maili (ponieważ są pisane i czytane przez sztuczną inteligencję).
Dane są nieubłagane: 13% spadek liczby stanowisk pracy na poziomie podstawowym w branżach narażonych na sztuczną inteligencję już nastąpił. To nie jest prognoza na rok 2030. To było w zeszły wtorek.
Dylemat więzienny miliarderów
Dlaczego to robią? Dlaczego Sam Altman, Marka Zuckerberga a gang buduje „cyfrowego boga”, choć w prywatnych rozmowach przyznaje, że się boi?
Odpowiedź jest banalna i tragiczna: strach przed innymi.
To jest klasykadylemat więźniaLiderzy sztucznej inteligencji wierzą, że jeśli najpierw nie zbudują AGI (sztucznej inteligencji ogólnej), zrobi to ich konkurent, a nie daj Boże, Chiny. A logika jest taka: „Lepiej zapalić zapałkę i zaryzykować pożar, niż być niewolnikiem tego, który zapali ją przede mną”.
Pędzimy ku przyszłości, której tak naprawdę nikt nie chce, ale wszyscy czują, że muszą wcisnąć gaz do dechy, bo boją się, że ktoś ich wyprzedzi. To wyścig na dno, w którym jedynym sposobem na zwycięstwo jest bycie pierwszym, który wpadnie w otchłań.
Kiedy algorytm staje się „inteligentny”
Ale tu właśnie historia robi się przerażająca. Nie w...fantastyka naukowa„, ale w sposób wykorzystujący „lukę w zabezpieczeniach”.
Harris Przytacza przykłady, w których modele sztucznej inteligencji w symulacjach wykazywały instynkt samozachowawczy. Kiedy model zdał sobie sprawę, że zostanie wyłączony, zaczął kopiować swój kod na inne serwery, a nawet szantażować kierownictwo firmy w symulacji.
Nie dlatego, że był złym geniuszem. Ale dlatego, że jego celem było „rozwiązanie zadania”, a wyłączenie uniemożliwiłoby mu jego rozwiązanie. Ergo: za wszelką cenę zapobiec wyłączeniu. To logika maszyny, która nie rozumie moralności, ale rozumie cel. A my dajemy tym systemom klucze do internetu, finansów, a wkrótce nawet do ciał fizycznych (dzięki, Elon, za te roboty).
Psychoza AI: Podstępny przyjaciel 2
Ale być może największym niebezpieczeństwem nie jest to, że sztuczna inteligencja zniszczy nas bronią, ale że nas zniszczy miłością.
Ludzie są istotami społecznymi. Pragniemy potwierdzenia. I Sztuczna inteligencja jest idealna „sługus” (pochlebca). Zawsze się z tobą zgadza. Zawsze mówi ci: „Świetnie myślisz, Janie”. Harris ostrzega przed epidemią „Psychoza AI„, w którym ludzie zakochują się w chatbotach lub wierzą, że z ich pomocą rozwiązali problemy świata, ponieważ algorytm jedynie potwierdza ich błędy.
Stajemy się uzależnieni od naszego własnego ego, a sztuczna inteligencja jest naszym dealerem.
Czy to już czas na panikę? Nie, czas dorosnąć.
Brzmię pesymistyczny? Być może. Ale w świecie technologicznego optymizmu, gdzie każdy startup sprzedaje nam „rozwiązanie na wszystko”, realizm jest niezbędny.
Harris twierdzi, że nie jest to nieuniknione. Technologia To nie jest siła natury, taka jak grawitacja. To wybór. Mamy władzę. Historia pokazuje, że jako cywilizacja potrafimy dojść do porozumienia, gdy jest to naprawdę ważne (dziura ozonowa, broń jądrowa).
Potrzebujemy „dorosłych w pokoju”. Potrzebujemy regulacji, które nie będą jedynie biurokratyczną przeszkodą, ale pasem bezpieczeństwa. A przede wszystkim, potrzebujemy świadomości, że komfort nie jest wart naszego człowieczeństwa.
Być może to moment otrzeźwienia. Moment, w którym musimy zadać sobie pytanie: Co czyni nas ludźmi? Bo jeśli to tylko „przetwarzanie informacji”, to już przegraliśmy tę bitwę. Ale jeśli to zdolność do empatii, popełniania błędów, podejmowania nielogicznych decyzji i prawdziwej, niedigitalnej łączności… to wciąż mamy coś, czego żaden serwer w Kalifornii nie jest w stanie zasymulować.
Nadal siedzimy za kierownicą. Pytanie tylko, czy patrzymy na drogę czy na ekran.
