在非营利组织未来生命研究所发表的一封公开信中，包括特斯拉首席执行官埃隆·马斯克在内的一群人工智能研究人员呼吁暂停开发大规模人工智能系统。他们的信中写道：停止人工智能开发！这封信表达了对这些系统对社会和人类造成的潜在风险以及对它们缺乏了解和控制的担忧。研究人员敦促 AI 实验室停止更新比 GPT-4 更强大的 AI 系统至少六个月，并与独立监管机构合作开发安全协议。
Skupina odmevnih raziskovalcev umetne inteligence, vključno z izvršnim direktorjem Tesle – Elonom Muskom in avtorjem Yuvalom Noahom Hararijem, je podpisala odprto pismo, v katerem poziva k moratoriju na razvoj obsežnih sistemov umetne inteligence. Pismo, ki ga je objavil neprofitni inštitut Future of Life, ugotavlja, da so laboratoriji umetne inteligence po vsem svetu v “tekmi brez nadzora” za razvoj in uvajanje sistemov strojnega učenja, ki so premočni, da bi jih kdorkoli, vključno z njihovimi ustvarjalci, razumel. Ali uspel, zanesljivo nadzorovati.
Ustavite razvoj AI
Pismo izrecno poziva laboratorije AI, naj za vsaj šest mesecev ustavijo usposabljanje sistemov AI, zmogljivejših od GPT-4, in sodelujejo z neodvisnimi regulatorji pri razvoju varnostnih protokolov za napredno načrtovanje in razvoj AI. Podpisniki trdijo, da je ta premor nujen za zagotovitev varnosti in ureditve prihodnjih sistemov umetne inteligence glede na velika tveganja, ki jih predstavljajo za družbo in človeštvo.
Poziv k moratoriju verjetno ne bo takoj vplival na trenutno klimo v raziskavah umetne inteligence, zaradi katere so tehnološka podjetja, kot sta Google in Microsoft, hitela z uvajanjem novih izdelkov, ne da bi v celoti upoštevala varnostne in etične posledice. Vendar je to znak naraščajočega nasprotovanja temu pristopu “pošlji zdaj in popravi pozneje”, ki bi lahko vplival na prihodnje predpise in zakonodajo.
Celo 开放人工智能，他创立的 埃隆·马斯克, je izrazil morebitno potrebo po “neodvisnem pregledu” prihodnjih sistemov AI, da se zagotovi, da izpolnjujejo varnostne standarde. Podpisniki odprtega pisma trdijo, da je zdaj prišel čas, da laboratoriji AI in neodvisni strokovnjaki sodelujejo pri razvoju in izvajanju skupnih varnostnih protokolov za napredno načrtovanje in razvoj 人工智能, ki jih revidirajo in nadzorujejo neodvisni zunanji strokovnjaki.
Čeprav je takojšnji učinek odprtega pisma negotov, poudarja potrebo po stalnem dialogu in sodelovanju med raziskovalci umetne inteligence, tehnološkimi podjetji in regulatorji, da se zagotovi odgovoren razvoj in uvedba sistemov umetne inteligence v prihodnosti.
