Skupina priznanih raziskovalcev in vodilnih osebnosti na področju umetne inteligence (AI) je v 22 besedah izpostavila svojo skrb za prihodnost človeštva. Izjava je kratka, a zelo jasna: "Zmanjšanje tveganja izumrtja zaradi AI bi morala biti globalna prioriteta skupaj z drugimi tveganji na družbeni ravni, kot so pandemije in jedrska vojna." Izjavo so podpisali CEO Google DeepMinda, Demis Hassabis, CEO OpenAI, Sam Altman, ter Geoffrey Hinton in Yoshua Bengio, oba dobitnika Turingove nagrade za delo na področju AI.
Center za varnost AI, neprofitna organizacija s sedežem v San Franciscu, je izjavo objavil v skupni podpori številnih pomembnih igralcev na področju AI. Izjava ne ponuja nobenih konkretnih rešitev, vendar predstavlja enotno stališče o potrebi po večji osredotočenosti na varnost AI.
AI kot globalna grožnja
To ni prvič, da so se ti strokovnjaki opogumili in izrazili svojo skrb. Nekateri med njimi so bili letos podpisniki odprtega pisma, v katerem so pozvali k šestmesečnemu “premoru” v razvoju AI. Pismo je bilo deležno kritik, saj nekateri menijo, da pretirava glede tveganj, ki jih predstavlja AI, drugi pa se strinjajo s tveganji, vendar ne z načinom, kako jih rešiti.
Skeptiki sicer dvomijo o teh predvidevanjih, poudarjajo, da AI sistemi ne zmorejo obvladovati niti relativno preprostih nalog, kot je vožnja avtomobila. Kljub letom truda in milijardam investicij v to raziskovalno področje, so popolnoma samovozeči avtomobili še vedno daleč od realnosti. Če AI ne more obvladovati niti te ene naloge, kakšne možnosti ima potem, da bo v prihodnjih letih dosegel vse ostale človeške dosežke? AI kot globalna grožnja?!
Vendar se tudi zagovorniki in skeptiki AI strinjajo, da AI sistemi že danes predstavljajo nekaj groženj – od omogočanja množičnega nadzora, do napajanja algoritmov “prediktivnega policijskega dela” in stvarjanja dezinformacij in napačnih informacij.
“Obstaja zelo pogosto napačno prepričanje, celo v AI skupnosti, da obstaja le nekaj ‘črnogledih’,” je za The New York Times povedal Dan Hendrycks, izvršni direktor Centra za varnost AI. “Toda v resnici bi mnogi ljudje v zasebnosti izrazili skrbi glede teh stvari.”
Debata o varnosti AI je zapletena in kontroverzna, podrobnosti pa so pogosto težko razumljive. Osnovna predpostavka je, da bi lahko AI sistemi hitro napredovali in presegli varnostne mehanizme. Kot primer se pogosto navaja hitri napredek velikih jezikovnih modelov, ki nakazuje možno prihodnje pridobivanje inteligence. Strokovnjaki opozarjajo, da bi ob določeni stopnji sofisticiranosti lahko postalo nemogoče nadzirati njihovo delovanje.
Vprašanje varnosti AI je še posebej pomembno za Evropo, ki je zasidrala etične smernice za zanesljivo AI v svojo politiko in zakonodajo. V Evropi smo že videli številne primere, ko so bili AI sistemi uporabljeni na načine, ki so v nasprotju z našimi vrednotami – kot je naprimer uporaba algoritmov za avtomatizirano prepoznavanje obrazov v javnih prostorih. Vprašanje je, ali je regulacija dovolj učinkovita ali pa bomo morali razmišljati o strožjih ukrepih, kot je začasna ustavitev razvoja AI.
To je še en opomin, da moramo biti previdni, saj “pot do pekla je tlakovana z dobrimi nameni“. Ne smemo pozabiti, da tehnologija ni sama po sebi dobra ali slaba – pomembno je, kako jo uporabljamo. Za zdaj se zdi, da nas AI danes ne ogroža, ampak je pomembno, da ostajamo budni in se pripravimo na vse možnosti. Konec koncev, bolje je biti varen kot obžalovan.
