V odprtem pismu, ki ga je objavil neprofitni inštitut Future of Life, skupina raziskovalcev umetne inteligence, vključno z izvršnim direktorjem Tesle Elonom Muskom, poziva k moratoriju na razvoj obsežnih sistemov umetne inteligence. Njihovo pismo se glasi: Ustavite razvoj AI! Pismo navaja zaskrbljenost zaradi morebitnih tveganj, ki jih ti sistemi predstavljajo za družbo in človeštvo, ter pomanjkanje razumevanja in nadzora nad njimi. Raziskovalci pozivajo laboratorije AI, naj za vsaj šest mesecev ustavijo posodabljanje sistemov AI, ki so močnejši od GPT-4, in sodelujejo z neodvisnimi regulatorji pri razvoju varnostnih protokolov.
Skupina odmevnih raziskovalcev umetne inteligence, vključno z izvršnim direktorjem Tesle – Elonom Muskom in avtorjem Yuvalom Noahom Hararijem, je podpisala odprto pismo, v katerem poziva k moratoriju na razvoj obsežnih sistemov umetne inteligence. Pismo, ki ga je objavil neprofitni inštitut Future of Life, ugotavlja, da so laboratoriji umetne inteligence po vsem svetu v “tekmi brez nadzora” za razvoj in uvajanje sistemov strojnega učenja, ki so premočni, da bi jih kdorkoli, vključno z njihovimi ustvarjalci, razumel. Ali uspel, zanesljivo nadzorovati.
Ustavite razvoj AI
Pismo izrecno poziva laboratorije AI, naj za vsaj šest mesecev ustavijo usposabljanje sistemov AI, zmogljivejših od GPT-4, in sodelujejo z neodvisnimi regulatorji pri razvoju varnostnih protokolov za napredno načrtovanje in razvoj AI. Podpisniki trdijo, da je ta premor nujen za zagotovitev varnosti in ureditve prihodnjih sistemov umetne inteligence glede na velika tveganja, ki jih predstavljajo za družbo in človeštvo.
Poziv k moratoriju verjetno ne bo takoj vplival na trenutno klimo v raziskavah umetne inteligence, zaradi katere so tehnološka podjetja, kot sta Google in Microsoft, hitela z uvajanjem novih izdelkov, ne da bi v celoti upoštevala varnostne in etične posledice. Vendar je to znak naraščajočega nasprotovanja temu pristopu “pošlji zdaj in popravi pozneje”, ki bi lahko vplival na prihodnje predpise in zakonodajo.
Celo OpenAI, ki ga je ustanovil Elon Musk, je izrazil morebitno potrebo po “neodvisnem pregledu” prihodnjih sistemov AI, da se zagotovi, da izpolnjujejo varnostne standarde. Podpisniki odprtega pisma trdijo, da je zdaj prišel čas, da laboratoriji AI in neodvisni strokovnjaki sodelujejo pri razvoju in izvajanju skupnih varnostnih protokolov za napredno načrtovanje in razvoj AI, ki jih revidirajo in nadzorujejo neodvisni zunanji strokovnjaki.
Čeprav je takojšnji učinek odprtega pisma negotov, poudarja potrebo po stalnem dialogu in sodelovanju med raziskovalci umetne inteligence, tehnološkimi podjetji in regulatorji, da se zagotovi odgovoren razvoj in uvedba sistemov umetne inteligence v prihodnosti.
