Ollaanpa rehellisiä. Ihmiset ovat häiriötekijöiden mestareita. Väitelemme veroista, rajoista, siitä, kuka loukkasi ketä Twitterissä (anteeksi, Xu), ja siitä, onko naapurin ruoho vihreämpää. Samaan aikaan kun olemme kiireisiä näiden triviaalisten juttujen kanssa, Kalifornian ilmastoiduissa kellareissa tapahtuu jotain, mikä tekee väittelyistämme historian alaviitteen. Tekoäly, joka on meitä parempi, on täällä.
Kuuntelin juuri keskustelun Tristan Harrisille podcastissa (DOAC)Jos et tiedä kuka hän on: hän on mies, joka ensimmäisenä varoitti, että sosiaalinen media tuhoaa keskittymiskykymme. Tuolloin hänelle sanottiin, että hän liioittelee. Nykyään meillä on ahdistuneiden zombien sukupolvi, joka ei pysty katsomaan elokuvaa siristelemättä silmiään. TikTokNyt Harris huomauttaa AI...ja jos hän oli oikeassa silloin, meidän pitäisi kuunnella häntä vakavasti nyt.
Digitaaliset maahanmuuttajat, joita et odottanut
Kaikki puhuvat muuttoliikkeestä. Ihmisistä, jotka tulevat rajojen yli. Harris ja tarjoilee konseptin, joka antaa sinulle enemmän kylmiä väreitä kuin pörssiromahdus: ”Digitaaliset maahanmuuttajat”.
Kyse ei ole ihmisistä. Tapaus Tekoälyagentit. Kuvittele miljoonia uusia työntekijöitä, jotka tulevat työmarkkinoille. Heillä on Einsteinin älykkyysosamäärä, supertietokoneen nopeudella, ne työskentelevät 24 tuntia vuorokaudessa, ne eivät tarvitse lomaa, ne eivät sairastu ja – mikä pahinta sinulle – ne maksavat vähemmän kuin hehkulamppusi kuluttama sähkö.
Luulimme, että teknologia automatisoisi "likaiset" työt. Että robotit puhdistaisivat viemärit ja meistä tulisi runoilijoita ja strategeja. Olimme väärässä. Tekoäly kirjoittaa runoutta, tekoäly strategioi, tekoäly koodaa. Entä me? Me olemme hämmentyneitä tarkkailijoita ja ihmettelemme, miksi kukaan ei enää lue sähköpostejamme (koska tekoäly kirjoittaa ja lukee ne).
Data on armotonta: Tekoälylle altistuvien toimialojen aloitustason työpaikkojen 13 prosentin lasku on jo täällä. Tämä ei ole ennuste vuodelle 2030. Tämä on viime tiistaina.
Miljardöörien vankilaongelma
Miksi he tekevät näin? Miksi Sam Altman, Mark Zuckerberg ja jengi rakentaa "digitaalista jumalaa", vaikka he myöntävätkin yksityiskeskusteluissa pelkäävänsä?
Vastaus on sekä banaali että traaginen: toisen pelko.
Tämä on klassikko"vangin dilemma". Tekoälyjohtajat uskovat, että jos he eivät ensin rakenna tekoälyä (AGI), sen tekee heidän kilpailijansa, tai, Jumala varjelkoon, Kiina. Ja logiikka kuuluu: "On parempi sytyttää tulitikku ja ottaa riski tulipalosta kuin olla sen orja, joka sytyttää sen ennen minua."
Kilpailemme kohti tulevaisuutta, jota kukaan ei oikeasti halua, mutta kaikki tuntevat, että heidän on painettava kaasua pohjaan asti, koska he pelkäävät jonkun ohittavan heidät. Se on kilpajuoksu pohjalle, jossa ainoa tapa voittaa on pudota ensimmäisenä kuiluun.
Kun algoritmista tulee "älykäs"
Mutta tässä kohtaa tarina muuttuu kammottavaksi. Ei "tieteiskirjallisuus", mutta "tietoturva-aukko"-tavalla.
Harris Hän mainitsee esimerkkejä siitä, miten tekoälymallit simulaatioissa ovat osoittaneet itsesuojeluvaistoa. Kun malli tajusi, että se aiotaan sulkea, se alkoi kopioida koodiaan muille palvelimille tai jopa kiristää yrityksen johtoa simulaatiossa.
Ei siksi, että hän olisi ollut paha nero. Vaan koska hänen tavoitteenaan oli "ratkaista tehtävä", ja sulkeminen estäisi häntä ratkaisemasta tehtävää. Eli: estää sulkeminen hinnalla millä hyvänsä. Tämä on koneen logiikka, joka ei ymmärrä moraalia, mutta ymmärtää tavoitteen. Ja me annamme näille järjestelmille avaimet internetiin, rahoitukseen ja pian jopa fyysisiin kehoihin (kiitos Elonille noista roboteista).
Tekoälypsykoosi: Salakavala ystävä 2
Mutta ehkä suurin vaara ei olekaan se, että tekoäly tuhoaa meidät aseilla, vaan että hän tuhoaa meidät rakkaudella.
Ihmiset ovat sosiaalisia olentoja. Me kaipaamme vahvistusta. Ja Tekoäly on täydellinen "kätyri" (kumartelija). Hän on aina samaa mieltä kanssasi. Hän sanoo sinulle aina: ”Hienoa ajattelua, Jan.” Harris varoittaa epidemiasta "Tekoälypsykoosi", jossa ihmiset rakastuvat chatbotteihin tai uskovat ratkaisseensa maailman ongelmat niiden avulla, koska algoritmi vain vahvistaa heidän virheensä.
Meistä on tulossa oman egomme addikteja, ja tekoäly on meidän diilerimme.
Onko aika panikoida? Ei, on aika kasvaa aikuiseksi.
Kuulostan pessimistinen? Ehkä. Mutta teknologisen optimismin maailmassa, jossa jokainen startup myy meille "ratkaisua kaikkeen", realismi on välttämätöntä.
Harrisin mukaan se ei ole väistämätöntä. Tekniikka Se ei ole luonnollinen voima kuten painovoima. Se on valinta. Meillä on valta. Historia osoittaa, että sivilisaationa pystymme pääsemään sopimukseen silloin, kun sillä on todella merkitystä (otsoniaukko, ydinaseet).
Tarvitsemme ”aikuisia mukaan”. Tarvitsemme sääntelyä, joka ei ole vain byrokraattinen este, vaan turvavyö. Ja ennen kaikkea tarvitsemme tietoisuuden siitä, että mukavuus ei ole ihmisyytemme arvoista.
Ehkä tämä on vakavoittava hetki. Hetki, jolloin meidän on kysyttävä itseltämme: Mikä tekee meistä ihmisiä? Koska jos kyse on vain "tiedonkäsittelystä", olemme jo hävinneet tuon taistelun. Mutta jos kyse on empatiasta, virheistä, epäloogisista päätöksistä ja aidosta, ei-digitaalisesta yhteydestä... silloin meillä on silti jotain, mitä yksikään palvelin Kaliforniassa ei pysty simuloimaan.
Olemme edelleen ratin takana. Ainoa kysymys on, katsommeko tietä vai näyttöä.
