I et åbent brev udgivet af nonprofitorganisationen Future of Life Institute opfordrer en gruppe kunstig intelligens-forskere, herunder Teslas administrerende direktør Elon Musk, til et moratorium for udviklingen af storstilede kunstig intelligens-systemer. Deres brev lyder: Stop AI-udvikling! Brevet udtrykker bekymring over de potentielle risici, disse systemer udgør for samfundet og menneskeheden, såvel som manglen på forståelse og kontrol over dem. Forskerne opfordrer AI-laboratorier til at stoppe med at opdatere AI-systemer stærkere end GPT-4 i mindst seks måneder og arbejde med uafhængige regulatorer for at udvikle sikkerhedsprotokoller.
En gruppe højprofilerede AI-forskere, herunder Teslas CEO – Elon Musk og forfatteren Til Yuval Noah Harari, underskrev et åbent brev med opfordring til et moratorium for udvikling af storstilede kunstige intelligenssystemer. Brevet, udgivet af non-profit Future of Life Institute, bemærker, at kunstig intelligenslaboratorier rundt om i verden er i et "ukontrolleret kapløb" om at udvikle og implementere maskinlæringssystemer, der er for kraftfulde for nogen, inklusive deres skabere, at mestre. forstået. Eller formået at kontrollere pålideligt.
Stop AI-udvikling
Brevet opfordrer specifikt til AI-laboratorier, at stoppe med at træne AI-systemer i mindst seks måneder, kraftigere end GPT-4, og arbejde med uafhængige regulatorer for at udvikle sikkerhedsprotokoller til avanceret AI-design og udvikling. Underskriverne hævder, at denne pause er nødvendig for at sikre sikkerheden og reguleringen af fremtidige AI-systemer i betragtning af de høje risici, som de repræsenterer for samfundet og menneskeheden.
Opfordringen til et moratorium vil næppe have en umiddelbar indvirkning på det nuværende klima inden for kunstig intelligens-forskning, som har set teknologivirksomheder som Google og Microsoft skynde sig at introducere nye produkter uden fuldt ud at overveje de sikkerhedsmæssige og etiske implikationer. Det er dog et tegn på stigende modstand mod denne "send nu og ret senere" tilgang, som kan påvirke fremtidige regler og lovgivning.
Pande OpenAI, som han grundlagde Elon Musk, udtrykte det potentielle behov for en "uafhængig gennemgang" af fremtidige AI-systemer for at sikre det at opfylde sikkerhedsstandarder. Underskriverne af det åbne brev hævder, at det nu er tid for AI-laboratorier og uafhængige eksperter til at arbejde sammen om at udvikle og implementere fælles sikkerhedsprotokoller til avanceret design og udvikling AI, som revideres og overvåges af uafhængige eksterne eksperter.
Selvom der er en øjeblikkelig effekt af et åbent brev usikkert, understreger behovet for konstant dialog og samarbejde mellem kunstig intelligens forskere, teknologivirksomheder og regulatorer for at sikre en ansvarlig udvikling og udrulning af AI-systemer i fremtiden.
