En gruppe af anerkendte forskere og ledende skikkelser inden for kunstig intelligens (AI) udtrykte deres bekymring for menneskehedens fremtid med 22 ord. Udtalelsen er kort, men meget klar: "Reduktion af risikoen for AI-udryddelse bør være en global prioritet sammen med andre risici på samfundsniveau såsom pandemier og atomkrig." Erklæringen blev underskrevet af Google DeepMind CEO Demis Hassabis, OpenAI CEO Sam Altman og Geoffrey Hinton og Yoshua Bengio, begge vindere af Turing Award for deres arbejde inden for AI.
Center for AI sikkerhed, en non-profit organisation baseret i San Francisco, udgivet erklæringen til fælles støtte fra mange vigtige spillere på inden for AI. Redegørelsen giver ingen konkrete løsninger, men den giver et samlet syn på behovet for større fokus på AI-sikkerhed.
AI som en global trussel
Det er ikke første gang, at disse eksperter har taget modet til sig til at udtrykke deres bekymring. Nogle af dem var underskrivere af et åbent brev i år, hvori de opfordrede til en seks måneders "pause" i udviklingen AI. Brevet har givet anledning til kritik, hvor nogle siger, at det overdriver de risici, AI udgør, mens andre er enige i risiciene, men ikke i, hvordan de skal håndteres.
Skeptikere tvivler på disse forudsigelser og påpeger, at AI-systemer ikke kan klare selv relativt simple opgaver som at køre bil. På trods af mange års indsats og milliarder af investeringer i dette forskningsområde er fuldt selvkørende biler stadig langt fra virkeligheden. Hvis AI ikke kan mestre selv denne ene opgave, hvilken chance har den så for at opnå alle de andre menneskelige præstationer i de kommende år? AI som en global trussel?!
Dog fortalere og AI-skeptikere er enige om, at AI-systemer allerede udgør nogle trusler - fra at muliggøre masseovervågning, til at drive "prædiktiv politi"-algoritmer og skabe desinformation og falsk information.
"Der er en meget almindelig misforståelse, selv i AI-fællesskabet, at der er bare et par 'sorte visninger'," er for New York Times sagde Dan Hendrycks, administrerende direktør AI sikkerhedscentre. "Men i virkeligheden ville mange mennesker rejse bekymringer om disse ting privat."
AI-sikkerhedsdebatten er kompleks og kontroversiel, og detaljerne er ofte svære at forstå. Den grundlæggende antagelse er, at AI-systemer hurtigt kan udvikle sig og overgå sikkerhedsmekanismer. Som et eksempel nævnes den hurtige udvikling af store sprogmodeller ofte for at angive den mulige fremtidige tilegnelse af intelligens. Eksperter advarer om, at med et vist niveau af sofistikering kan det blive umuligt at kontrollere deres drift.
Et spørgsmål om sikkerhed AI er særlig vigtig for Europa, som har forankret etiske retningslinjer for pålidelig AI i sin politik og lovgivning. I Europa har vi allerede set mange eksempler på, at AI-systemer bliver brugt på måder, der er i konflikt med vores værdier – såsom brugen af automatiserede ansigtsgenkendelsesalgoritmer i offentlige rum. Spørgsmålet er, om reguleringen er effektiv nok, eller om vi bliver nødt til at tænke på strengere tiltag, såsom midlertidigt at suspendere udviklingen af kunstig intelligens.
Dette er endnu en påmindelse om, at vi skal være forsigtige, fordi "vejen til helvede er brolagt med gode hensigter". Vi skal huske på, at teknologi ikke i sig selv er god eller dårlig – det er, hvordan vi bruger den, der betyder noget. For nu ser AI ikke ud til at true os i dag, men det er vigtigt at forblive på vagt og forberede sig på alle eventualiteter. Det er trods alt bedre at være sikker end undskyld.
