V otvorenom liste zverejnenom neziskovou organizáciou Future of Life Institute skupina výskumníkov umelej inteligencie vrátane generálneho riaditeľa Tesly Elona Muska žiada moratórium na vývoj rozsiahlych systémov umelej inteligencie. Ich list znie: Zastavte vývoj AI! List vyjadruje znepokojenie nad možnými rizikami, ktoré tieto systémy predstavujú pre spoločnosť a ľudstvo, ako aj nad nedostatkom pochopenia a kontroly nad nimi. Výskumníci naliehajú na laboratóriá AI, aby prestali aktualizovať systémy AI silnejšie ako GPT-4 najmenej na šesť mesiacov a spolupracovali s nezávislými regulátormi na vývoji bezpečnostných protokolov.
Skupina vysokoprofilových výskumníkov AI vrátane generálneho riaditeľa Tesly – Elona Muska a autora Yuvalovi Noahovi Hararimu, podpísali otvorený list, v ktorom žiadajú moratórium na vývoj rozsiahlych systémov umelej inteligencie. V liste, ktorý zverejnil neziskový inštitút Future of Life, sa uvádza, že laboratóriá umelej inteligencie po celom svete sú v „nekontrolovanom preteku“ vo vývoji a nasadzovaní systémov strojového učenia, ktoré sú príliš výkonné na to, aby ich zvládli všetci, vrátane ich tvorcov. pochopil. Alebo sa podarilo spoľahlivo ovládať.
Zastavte vývoj AI
List konkrétne vyzýva laboratóriá AI, prestať trénovať systémy AI aspoň na šesť mesiacov, výkonnejší ako GPT-4a spolupracovať s nezávislými regulátormi na vývoji bezpečnostných protokolov pre pokročilý návrh a vývoj AI. Signatári tvrdia, že táto prestávka je potrebná na zaistenie bezpečnosti a regulácie budúcich systémov AI vzhľadom na vysoké riziká, ktoré predstavujú pre spoločnosť a ľudstvo.
Je nepravdepodobné, že by výzva na moratórium mala okamžitý vplyv na súčasnú klímu vo výskume umelej inteligencie, v rámci ktorej sa technologické spoločnosti ako Google a Microsoft ponáhľali predstaviť nové produkty bez toho, aby plne zvážili bezpečnostné a etické dôsledky. Je to však znak rastúceho odporu voči tomuto prístupu „odoslať teraz a opraviť neskôr“, čo by mohlo ovplyvniť budúce nariadenia a legislatívu.
Čelo OpenAI, ktorú založil Elon Musk, vyjadril potenciálnu potrebu „nezávislého preskúmania“ budúcich systémov AI, aby sa to zabezpečilo aby spĺňali bezpečnostné normy. Signatári otvoreného listu tvrdia, že teraz je čas, aby laboratóriá AI a nezávislí experti spolupracovali na vývoji a implementácii spoločných bezpečnostných protokolov pre pokročilý dizajn a vývoj. AI, ktoré sú kontrolované a kontrolované nezávislými externými odborníkmi.
Aj keď je tu okamžitý efekt otvoreného listu neisté, zdôrazňuje potrebu neustáleho dialógu a spolupráce medzi výskumníci umelej inteligencie, technologické spoločnosti a regulačné orgány, aby zabezpečili zodpovedný vývoj a nasadenie systémov AI v budúcnosti.
