In een open brief, gepubliceerd door het non-profit Future of Life Institute, roept een groep kunstmatige-intelligentie-onderzoekers, waaronder Tesla-CEO Elon Musk, op tot een moratorium op de ontwikkeling van grootschalige kunstmatige-intelligentiesystemen. Hun brief luidt: Stop de ontwikkeling van AI! In de brief wordt bezorgdheid geuit over de potentiële risico's die deze systemen vormen voor de samenleving en de mensheid, evenals het gebrek aan begrip en controle erover. De onderzoekers dringen er bij AI-labs op aan om gedurende ten minste zes maanden te stoppen met het updaten van AI-systemen die sterker zijn dan GPT-4 en samen te werken met onafhankelijke toezichthouders om beveiligingsprotocollen te ontwikkelen.
Een groep spraakmakende AI-onderzoekers, waaronder Tesla CEO – Elon Musk en de auteur Aan Yuval Noah Harari, een open brief ondertekend waarin wordt opgeroepen tot een moratorium op de ontwikkeling van grootschalige kunstmatige-intelligentiesystemen. In de brief, gepubliceerd door het non-profit Future of Life Institute, wordt opgemerkt dat kunstmatige intelligentie-laboratoria over de hele wereld in een "ongecontroleerde race" verkeren om machine learning-systemen te ontwikkelen en in te zetten die te krachtig zijn voor iedereen, inclusief hun makers, om te beheersen. begrepen. Of erin geslaagd om betrouwbaar te controleren.
Stop de ontwikkeling van AI
De brief roept specifiek AI-labs op, ten minste zes maanden stoppen met het trainen van AI-systemen, krachtiger dan GPT-4en werken samen met onafhankelijke toezichthouders om beveiligingsprotocollen te ontwikkelen voor geavanceerd AI-ontwerp en -ontwikkeling. De ondertekenaars stellen dat deze pauze nodig is om de veiligheid en regulering van toekomstige AI-systemen te waarborgen, gezien de hoge risico's, die zij vertegenwoordigen voor de samenleving en de mensheid.
De oproep tot een moratorium zal waarschijnlijk geen onmiddellijke impact hebben op het huidige klimaat in onderzoek naar kunstmatige intelligentie, waarin technologiebedrijven als Google en Microsoft zich haasten om nieuwe producten te introduceren zonder de veiligheid en ethische implicaties volledig in overweging te nemen. Het is echter een teken van groeiend verzet tegen deze benadering van "nu verzenden en later repareren", die van invloed zou kunnen zijn op toekomstige wet- en regelgeving.
Voorhoofd AI openen, die hij oprichtte Elon Musk, drukte de potentiële behoefte uit aan een "onafhankelijke beoordeling" van toekomstige AI-systemen om dat te waarborgen om aan de veiligheidsnormen te voldoen. De ondertekenaars van de open brief stellen dat het nu tijd is voor AI-labs en onafhankelijke experts om samen te werken aan de ontwikkeling en implementatie van gemeenschappelijke beveiligingsprotocollen voor geavanceerd ontwerp en ontwikkeling AI, die worden gecontroleerd en gecontroleerd door onafhankelijke externe deskundigen.
Hoewel er een onmiddellijk effect is van een open brief onzeker, benadrukt de noodzaak van een voortdurende dialoog en samenwerking tussen onderzoekers op het gebied van kunstmatige intelligentie, technologiebedrijven en toezichthouders om de verantwoorde ontwikkeling en inzet van AI-systemen in de toekomst te waarborgen.
