fbpx

AI als wereldwijde bedreiging: wetenschappers en de industrie waarschuwen voor de mogelijkheid van uitsterven van de mens

AI-experts waarschuwen voor 'risico op uitsterven' in verklaring van 22 woorden

AI kot globalna grožnja
Foto: Midjourney / Jan Macarol

Een groep gerenommeerde onderzoekers en leidende figuren op het gebied van kunstmatige intelligentie (AI) uitte in 22 woorden hun bezorgdheid over de toekomst van de mensheid. De verklaring is kort maar heel duidelijk: "Het verminderen van het risico op het uitsterven van AI moet een wereldwijde prioriteit zijn, naast andere risico's op maatschappelijk niveau, zoals pandemieën en een nucleaire oorlog." De verklaring werd ondertekend door Demis Hassabis, CEO van Google DeepMind, Sam Altman, CEO van OpenAI, en Geoffrey Hinton en Yoshua Bengio, beiden Turing Award-winnaars voor hun werk op het gebied van AI.

Centrum voor AI-beveiliging, een non-profitorganisatie gevestigd in San Francisco, gaf de verklaring ter gezamenlijke steun van vele belangrijke spelers vrij op het gebied van AI. Het statement biedt geen concrete oplossingen, maar geeft wel een eenduidig beeld van de noodzaak om meer aandacht te besteden aan AI-beveiliging.

Foto: 22 woorden

AI als wereldwijde dreiging

Het is niet de eerste keer dat deze experts de moed hebben gevat om hun bezorgdheid te uiten. Sommigen van hen waren dit jaar ondertekenaar van een open brief, waarin ze opriepen tot een "pauze" van zes maanden in de ontwikkeling AI. De brief heeft kritiek gekregen, waarbij sommigen zeggen dat het de risico's van AI overdrijft, terwijl anderen het eens zijn met de risico's, maar niet met hoe ze moeten worden aangepakt.

Sceptici twijfelen aan deze voorspellingen en wijzen erop dat AI-systemen zelfs relatief eenvoudige taken, zoals autorijden, niet aankunnen. Ondanks jarenlange inspanningen en miljarden investeringen in dit onderzoeksgebied, zijn volledig zelfrijdende auto's nog ver verwijderd van de realiteit. Als AI zelfs deze ene taak niet aankan, welke kans heeft het dan om alle andere menselijke prestaties in de komende jaren te bereiken? AI als wereldwijde dreiging?!

Echter, de advocaten en AI-sceptici zijn het erover eens dat AI-systemen al een aantal bedreigingen vormen - van het mogelijk maken van massasurveillance tot het aandrijven van algoritmen voor "predictive policing" en het creëren van desinformatie en valse informatie.

“Er is een veel voorkomende misvatting, zelfs in de AI-gemeenschap, dat die er is slechts een paar 'zwarte weergaven'," is voor De New York Times zei Dan Hendrikcks, CEO AI-beveiligingscentra. "Maar in werkelijkheid zouden veel mensen hun zorgen over deze dingen privé uiten."

Foto: Midjorney / Jan Macarol

Het AI-beveiligingsdebat is complex en controversieel, en de details zijn vaak moeilijk te begrijpen. De basisaanname is dat AI-systemen snel kunnen evolueren en beveiligingsmechanismen kunnen overtreffen. Als voorbeeld wordt de snelle vooruitgang van grote taalmodellen vaak aangehaald als indicatie voor de mogelijke toekomstige verwerving van intelligentie. Deskundigen waarschuwen dat het met een zekere mate van verfijning zou kunnen worden onmogelijk om hun werking te beheersen.

Een kwestie van veiligheid AI is vooral belangrijk voor Europa, dat ethische richtlijnen voor betrouwbare AI heeft verankerd in haar beleid en wetgeving. In Europa hebben we al veel voorbeelden gezien van AI-systemen die worden gebruikt op manieren die in strijd zijn met onze waarden, zoals het gebruik van geautomatiseerde algoritmen voor gezichtsherkenning in openbare ruimtes. De vraag is of de regulering effectief genoeg is, of dat we zullen moeten nadenken over strengere maatregelen, zoals het tijdelijk stilleggen van de ontwikkeling van AI.

Dit is een andere herinnering dat we voorzichtig moeten zijn, want "de weg naar de hel is geplaveid met goede voornemens". We moeten niet vergeten dat technologie niet inherent goed of slecht is - het gaat erom hoe we het gebruiken. Voorlopig lijkt AI ons vandaag niet te bedreigen, maar het is belangrijk om waakzaam te blijven en ons voor te bereiden op alle eventualiteiten. Het is tenslotte beter om veilig te zijn dan sorry.

Bij jou sinds 2004

Vanaf jaar 2004 we onderzoeken stedelijke trends en informeren onze community van volgers dagelijks over het laatste nieuws op het gebied van lifestyle, reizen, stijl en producten die met passie inspireren. Vanaf 2023 bieden we content aan in de belangrijkste wereldtalen.