U otvorenom pismu koje je objavio neprofitni institut Future of Life, skupina istraživača umjetne inteligencije, uključujući izvršnog direktora Tesle Elona Muska, pozivaju na moratorij na razvoj velikih sustava umjetne inteligencije. Njihovo pismo glasi: Zaustavite razvoj umjetne inteligencije! U pismu se izražava zabrinutost zbog potencijalnih rizika koje ti sustavi predstavljaju za društvo i čovječanstvo, kao i zbog nedostatka razumijevanja i kontrole nad njima. Istraživači pozivaju AI laboratorije da prestanu ažurirati AI sustave jače od GPT-4 na najmanje šest mjeseci i rade s neovisnim regulatorima na razvoju sigurnosnih protokola.
Skupina visokoprofiliranih istraživača umjetne inteligencije uključujući izvršnog direktora Tesle – Elona Muska i autora Yuvalu Noahu Harariju, potpisali su otvoreno pismo u kojem pozivaju na moratorij na razvoj velikih sustava umjetne inteligencije. U pismu, koje je objavio neprofitni institut Future of Life, navodi se da su laboratoriji umjetne inteligencije diljem svijeta u "nekontroliranoj utrci" za razvoj i implementaciju sustava strojnog učenja koji su previše moćni da bi ih bilo tko, uključujući njihove tvorce, mogao svladati. razumjeli. Ili uspio pouzdano kontrolirati.
Zaustavite razvoj umjetne inteligencije
Pismo posebno poziva laboratorije za umjetnu inteligenciju, prestati trenirati AI sustave na najmanje šest mjeseci, moćniji od GPT-4, te raditi s neovisnim regulatorima na razvoju sigurnosnih protokola za napredni dizajn i razvoj umjetne inteligencije. Potpisnici tvrde da je ova stanka neophodna kako bi se osigurala sigurnost i regulacija budućih sustava umjetne inteligencije s obzirom na visoke rizike, koje predstavljaju društvu i čovječanstvu.
Poziv na moratorij vjerojatno neće imati izravan utjecaj na trenutnu klimu u istraživanju umjetne inteligencije, zbog koje tehnološke tvrtke poput Googlea i Microsofta žure s uvođenjem novih proizvoda bez potpunog razmatranja sigurnosnih i etičkih implikacija. Međutim, to je znak rastućeg protivljenja ovom pristupu "pošalji odmah i popravi kasnije", koji bi mogao utjecati na buduće propise i zakone.
Čelo OpenAI, koju je osnovao Elon Musk, izrazio je potencijalnu potrebu za "neovisnim pregledom" budućih sustava umjetne inteligencije kako bi se to osiguralo zadovoljiti sigurnosne standarde. Potpisnici otvorenog pisma tvrde da je sada vrijeme da laboratoriji za umjetnu inteligenciju i neovisni stručnjaci rade zajedno na razvoju i implementaciji zajedničkih sigurnosnih protokola za napredni dizajn i razvoj AI, koje revidiraju i nadziru neovisni vanjski stručnjaci.
Iako postoji trenutni učinak otvorenog pisma nesiguran, ističe potrebu stalnog dijaloga i suradnje između istraživači umjetne inteligencije, tehnološkim tvrtkama i regulatorima kako bi osigurali odgovoran razvoj i implementaciju AI sustava u budućnosti.
