V otevřeném dopise zveřejněném neziskovou organizací Future of Life Institute skupina výzkumníků umělé inteligence, včetně generálního ředitele Tesly Elona Muska, požaduje moratorium na vývoj rozsáhlých systémů umělé inteligence. Jejich dopis zní: Zastavte vývoj AI! Dopis vyjadřuje znepokojení nad potenciálními riziky, která tyto systémy představují pro společnost a lidstvo, a také nad nedostatkem porozumění a kontroly nad nimi. Výzkumníci naléhají na laboratoře AI, aby přestaly aktualizovat systémy AI silnější než GPT-4 po dobu nejméně šesti měsíců a spolupracovaly s nezávislými regulátory na vývoji bezpečnostních protokolů.
Skupina vysoce profilovaných výzkumníků AI včetně generálního ředitele společnosti Tesla – Elona Muska a autora Yuvalu Noahu Hararimu, podepsal otevřený dopis vyzývající k moratoriu na vývoj rozsáhlých systémů umělé inteligence. V dopise zveřejněném neziskovou organizací Future of Life Institute se uvádí, že laboratoře umělé inteligence po celém světě jsou v „nekontrolovaném závodě“ ve vývoji a nasazení systémů strojového učení, které jsou příliš výkonné na to, aby je zvládl kdokoli, včetně jejich tvůrců. pochopil. Nebo se podařilo spolehlivě ovládat.
Zastavte vývoj AI
Dopis konkrétně vyzývá laboratoře AI, přestat trénovat systémy umělé inteligence po dobu nejméně šesti měsíců, výkonnější než GPT-4a spolupracovat s nezávislými regulátory na vývoji bezpečnostních protokolů pro pokročilý návrh a vývoj AI. Signatáři tvrdí, že tato pauza je nezbytná pro zajištění bezpečnosti a regulace budoucích systémů umělé inteligence vzhledem k vysokým rizikům, které představují pro společnost a lidstvo.
Je nepravděpodobné, že by výzva k moratoriu měla okamžitý dopad na současné klima ve výzkumu umělé inteligence, kdy technologické společnosti jako Google a Microsoft spěchaly zavádět nové produkty, aniž by plně zvážily bezpečnostní a etické důsledky. Je to však známka rostoucího odporu proti tomuto přístupu „odeslat nyní a opravit později“, což by mohlo ovlivnit budoucí předpisy a legislativu.
Čelo OpenAI, kterou založil Elon Musk, vyjádřil potenciální potřebu „nezávislého přezkumu“ budoucích systémů umělé inteligence, aby se to zajistilo aby splňovaly bezpečnostní normy. Signatáři otevřeného dopisu tvrdí, že nyní je čas, aby laboratoře AI a nezávislí odborníci spolupracovali na vývoji a implementaci společných bezpečnostních protokolů pro pokročilý návrh a vývoj. AI, které jsou auditovány a kontrolovány nezávislými externími odborníky.
I když efekt je okamžitý otevřeného dopisu nejisté, zdůrazňuje potřebu neustálého dialogu a spolupráce mezi výzkumníci umělé inteligence, technologických společností a regulačních orgánů, aby zajistili odpovědný vývoj a nasazení systémů AI v budoucnu.
