Skupina renomiranih istraživača i vodećih osoba na području umjetne inteligencije (AI) izrazila je zabrinutost za budućnost čovječanstva u 22 riječi. Izjava je kratka, ali vrlo jasna: "Smanjenje rizika od izumiranja umjetne inteligencije trebao bi biti globalni prioritet uz druge rizike na društvenoj razini kao što su pandemije i nuklearni rat." Izjavu su potpisali izvršni direktor Google DeepMinda Demis Hassabis, izvršni direktor OpenAI-ja Sam Altman te Geoffrey Hinton i Yoshua Bengio, obojica dobitnici Turingove nagrade za svoj rad u umjetnoj inteligenciji.
Centar za AI sigurnost, neprofitna organizacija sa sjedištem u San Francisco, objavio je izjavu u znak zajedničke potpore mnogim važnim igračima na u području AI. Izjava ne nudi nikakva konkretna rješenja, ali predstavlja jedinstveno stajalište o potrebi za većim fokusom na sigurnost umjetne inteligencije.
AI kao globalna prijetnja
Ovo nije prvi put da su se ovi stručnjaci odvažili izraziti svoju zabrinutost. Neki od njih bili su ovogodišnji potpisnici otvorenog pisma u kojem su pozvali na šestomjesečnu "pauzu" u razvoju AI. Pismo je izazvalo kritike, a neki su rekli da preuveličava rizike koje predstavlja AI, dok su se drugi složili s rizicima, ali ne i s načinom na koji ih treba riješiti.
Skeptici sumnjaju u ova predviđanja, ističući da AI sustavi ne mogu podnijeti čak ni relativno jednostavne zadatke kao što je vožnja automobila. Unatoč godinama truda i milijardama ulaganja u ovo područje istraživanja, potpuno samovozeći automobili još su uvijek daleko od stvarnosti. Ako umjetna inteligencija ne može svladati čak ni ovaj zadatak, kakve onda šanse ima da postigne sva ostala ljudska postignuća u godinama koje dolaze? AI kao globalna prijetnja?!
Međutim, zagovornici i AI skeptici slažu se da sustavi umjetne inteligencije već predstavljaju neke prijetnje - od omogućavanja masovnog nadzora, do pokretanja algoritama "prediktivne policije" i stvaranja dezinformacija i lažnih informacija.
“Postoji vrlo česta pogrešna predodžba, čak i u zajednici AI da postoji samo nekoliko 'crnih pogleda'," je za The New York Times rekao je Dan Hendrycks, izvršni direktor AI sigurnosni centri. "Ali u stvarnosti bi mnogi ljudi privatno izrazili zabrinutost oko ovih stvari."
Rasprava o sigurnosti umjetne inteligencije složena je i kontroverzna, a detalje je često teško razumjeti. Osnovna pretpostavka je da bi sustavi umjetne inteligencije mogli brzo napredovati i nadmašiti sigurnosne mehanizme. Kao primjer, brzi napredak velikih jezičnih modela često se navodi kao pokazatelj mogućeg budućeg stjecanja inteligencije. Stručnjaci upozoravaju da bi uz određenu razinu sofisticiranosti to moglo postati nemoguće kontrolirati njihov rad.
Pitanje sigurnosti Umjetna inteligencija posebno je važna za Europu, koja je u svoju politiku i zakonodavstvo ugradila etičke smjernice za pouzdanu umjetnu inteligenciju. U Europi smo već vidjeli mnoge primjere AI sustava koji se koriste na načine koji su u suprotnosti s našim vrijednostima – poput upotrebe automatiziranih algoritama za prepoznavanje lica u javnim prostorima. Pitanje je je li uredba dovoljno učinkovita ili ćemo morati razmišljati o strožim mjerama, poput privremene obustave razvoja AI-ja.
Ovo je još jedan podsjetnik da moramo biti oprezni jer "put do pakla je popločan dobrim namjerama". Moramo zapamtiti da tehnologija nije sama po sebi dobra ili loša – važno je kako je koristimo. Za sada se čini da nam umjetna inteligencija danas ne prijeti, ali važno je ostati na oprezu i pripremiti se za sve mogućnosti. Uostalom, bolje je biti siguran nego žaliti.
