I et åpent brev publisert av den ideelle organisasjonen Future of Life Institute, ber en gruppe forskere innen kunstig intelligens, inkludert Teslas administrerende direktør Elon Musk, om et moratorium for utvikling av store kunstige intelligenssystemer. Brevet deres lyder: Stopp AI-utvikling! Brevet uttrykker bekymring over den potensielle risikoen disse systemene utgjør for samfunnet og menneskeheten, samt mangelen på forståelse og kontroll over dem. Forskerne oppfordrer AI-laboratorier til å slutte å oppdatere AI-systemer sterkere enn GPT-4 i minst seks måneder og samarbeide med uavhengige regulatorer for å utvikle sikkerhetsprotokoller.
En gruppe høyt profilerte AI-forskere inkludert Teslas administrerende direktør – Elon Musk og forfatteren Til Yuval Noah Harari, undertegnet et åpent brev som ber om et moratorium for utvikling av storskala kunstig intelligens-systemer. Brevet, publisert av non-profit Future of Life Institute, bemerker at kunstig intelligenslaboratorier rundt om i verden er i et "ukontrollert kappløp" for å utvikle og distribuere maskinlæringssystemer som er for kraftige for noen, inkludert deres skapere, å mestre. forstått. Eller klarte å kontrollere pålitelig.
Stopp AI-utvikling
Brevet oppfordrer spesifikt AI-laboratorier, å slutte å trene AI-systemer i minst seks måneder, kraftigere enn GPT-4, og samarbeid med uavhengige regulatorer for å utvikle sikkerhetsprotokoller for avansert AI-design og utvikling. Underskriverne hevder at denne pausen er nødvendig for å sikre sikkerheten og reguleringen av fremtidige AI-systemer gitt den høye risikoen, som de representerer for samfunnet og menneskeheten.
Kravet om et moratorium vil neppe ha en umiddelbar innvirkning på det nåværende klimaet innen forskning på kunstig intelligens, som har sett teknologiselskaper som Google og Microsoft skynde seg med å introdusere nye produkter uten fullt ut å vurdere sikkerhetsmessige og etiske implikasjoner. Det er imidlertid et tegn på økende motstand mot denne «send nå og fiks senere»-tilnærmingen, som kan påvirke fremtidige reguleringer og lovverk.
Panne OpenAI, som han grunnla Elon Musk, uttrykte det potensielle behovet for en "uavhengig gjennomgang" av fremtidige AI-systemer for å sikre det for å oppfylle sikkerhetsstandarder. Underskriverne av det åpne brevet hevder at nå er tiden for AI-laboratorier og uavhengige eksperter å jobbe sammen for å utvikle og implementere felles sikkerhetsprotokoller for avansert design og utvikling AI, som er revidert og overvåket av uavhengige eksterne eksperter.
Selv om det er en umiddelbar effekt av et åpent brev usikkert, understreker behovet for konstant dialog og samarbeid mellom forskere innen kunstig intelligens, teknologiselskaper og regulatorer for å sikre ansvarlig utvikling og distribusjon av AI-systemer i fremtiden.
