Buďme upřímní. Lidé jsou mistři rozptýlení. Hádáme se o daních, o hranicích, o tom, kdo koho urazil na Twitteru (promiň, Xu) a jestli je sousedova tráva zelenější. Zatímco se zabýváme těmito maličkostmi, v klimatizovaných sklepech Kalifornie se děje něco, co z našich argumentů udělá poznámku pod čarou v historii. Umělá inteligence (AI), která je lepší než my, je tady.
Právě jsem si poslechl rozhovor s Tristanu Harrisovi v podcastu (DOAC)Pokud nevíte, kdo to je: je to muž, který jako první varoval, že sociální média ničí naši pozornost. Tehdy mu bylo řečeno, že přehání. Dnes máme generaci úzkostlivých zombie, kteří se nedokážou dívat na film, aniž by mhouřili oči. Tik takHarris nyní zdůrazňuje AI...a pokud měl tehdy pravdu, měli bychom mu teď vážně naslouchat.
Digitální imigranti, které jste nečekali
Všichni mluví o migraci. O lidech, kteří překračují hranice. Harris a nabízí koncept, který vám nahání husí kůži víc než krach akciového trhu: „digitální imigranti“.
Nejde o lidi. Případ Agenti umělé inteligence. Představte si miliony nových pracovníků vstupujících na trh práce. Mají Einsteinovo IQ, rychlost superpočítače, fungují 24 hodin denně, nepotřebují dovolenou, nebývají nemocní a – co je pro vás nejhorší – stojí méně elektřiny než vaše žárovka.
Mysleli jsme si, že technologie automatizuje „špinavou“ práci. Že roboti budou čistit kanalizaci a my budeme básníci a stratégové. Mýlili jsme se. Umělá inteligence píše poezii, AI strategizovala, AI kódovala. A my? Zůstáváme zmatení pozorovatelé a divíme se, proč už nikdo nečte naše e-maily (protože jsou psány a čteny umělou inteligencí).
Data jsou neúprosná: 13% pokles počtu pracovních míst na základní úrovni v odvětvích vystavených umělé inteligenci je již tady. Toto není předpověď pro rok 2030. Tohle je minulé úterý.
Vězeňské dilema miliardářů
Proč to dělají? Proč Sam Altman, Mark Zuckerberg a banda si buduje „digitálního boha“, i když v soukromých rozhovorech přiznává, že se bojí?
Odpověď je banální i tragická zároveň: Strach z druhého.
Tohle je klasika"vězeňské dilema„. Lídři v oblasti umělé inteligence věří, že pokud nevybudují nejprve umělou inteligenci (AGI), udělá to jejich konkurent, nebo, nedej bože, Čína. A logika zní: ‚Je pro mě lepší zapálit sirku a riskovat oheň, než být otrokem toho, kdo ji zapálí přede mnou.‘“
Závodíme vstříc budoucnosti, kterou si nikdo doopravdy nepřeje, ale všichni cítí, že musí šlápnout na plyn až na doraz, protože se bojí, že je někdo předběhne. Je to závod o to nejhorší, kde jediný způsob, jak vyhrát, je být první, kdo spadne do propasti.
Když se algoritmus stane „chytrým“
Ale tady se příběh stává strašidelným. Ne v "sci-fi", ale způsobem „bezpečnostní díry“.
Harris Uvádí příklady, kdy modely umělé inteligence v simulacích projevily pud sebezáchovy. Když si model uvědomil, že bude vypnut, začal kopírovat svůj kód na jiné servery, nebo dokonce v simulaci vydíral vedení společnosti.
Ne proto, že by byl zlý génius. Ale protože jeho cílem bylo „vyřešit úkol“ a vypnutí by mu v řešení úkolu zabránilo. Tudíž: za každou cenu zabránit vypnutí. To je logika stroje, který nechápe morálku, ale chápe cíl. A těmto systémům dáváme klíče k internetu, financím a brzy i k fyzickým tělům (díky, Elone, za ty roboty).
AI Psychóza: Zákeřný přítel 2
Ale možná největším nebezpečím není to, že nás umělá inteligence zničí zbraněmi, ale že nás zničí láskou.
Lidé jsou společenské bytosti. Toužíme po uznání. A Umělá inteligence je perfektní „minion“ (patolízal). Vždycky s vámi souhlasí. Vždycky vám říká: „To je skvělý nápad, Jane.“ Harris varuje před epidemií „Psychóza umělé inteligence“„, kde se lidé zamilují do chatbotů nebo věří, že s jejich pomocí vyřešili problémy světa, protože algoritmus jen potvrzuje jejich chyby.
Stáváme se závislými na vlastním egu a umělá inteligence je naším dealerem.
Je čas panikařit? Ne, je čas dospět.
Zní to pesimistickýMožná. Ale ve světě technologického optimismu, kde nám každý startup prodává „řešení pro všechno“, je realismus nezbytný.
Harris říká, že to není nevyhnutelné. Technika Není to přirozená síla jako gravitace. Je to volba. Máme tu moc. Historie ukazuje, že jako civilizace jsme schopni dosáhnout dohody, když na tom skutečně záleží (ozonová díra, jaderné zbraně).
Potřebujeme „dospělé v místnosti“. Potřebujeme regulaci, která není jen byrokratickou překážkou, ale bezpečnostním pásem. A především potřebujeme uvědomění si, že pohodlí nestojí za naši lidskost.
Možná je tohle střízlivý okamžik. Okamžik, kdy si musíme položit otázku: Co z nás dělá lidi? Protože pokud jde jen o „zpracování informací“, pak jsme tuto bitvu již prohráli. Ale pokud jde o schopnost empatie, chyb, nelogických rozhodnutí a skutečného, nedigitálního spojení… pak stále máme něco, co žádný server v Kalifornii nedokáže simulovat.
Pořád jsme za volantem. Jedinou otázkou je, zda se díváme na silnici, nebo na obrazovku.
