In una lettera aperta pubblicata dal Future of Life Institute senza scopo di lucro, un gruppo di ricercatori di intelligenza artificiale, tra cui il CEO di Tesla Elon Musk, chiede una moratoria sullo sviluppo di sistemi di intelligenza artificiale su larga scala. La loro lettera recita: Stop allo sviluppo dell'IA! La lettera esprime preoccupazione per i potenziali rischi che questi sistemi rappresentano per la società e l'umanità, nonché per la mancanza di comprensione e controllo su di essi. I ricercatori stanno esortando i laboratori di intelligenza artificiale a interrompere l'aggiornamento dei sistemi di intelligenza artificiale più forti di GPT-4 per almeno sei mesi e a lavorare con regolatori indipendenti per sviluppare protocolli di sicurezza.
Un gruppo di ricercatori AI di alto profilo tra cui il CEO di Tesla - Elon Musk e l'autore A Yuval Noah Harari, ha firmato una lettera aperta chiedendo una moratoria sullo sviluppo di sistemi di intelligenza artificiale su larga scala. La lettera, pubblicata dal Future of Life Institute senza scopo di lucro, rileva che i laboratori di intelligenza artificiale di tutto il mondo sono in una "corsa incontrollata" per sviluppare e implementare sistemi di apprendimento automatico troppo potenti per essere padroneggiati da chiunque, inclusi i loro creatori. inteso. O è riuscito a controllare in modo affidabile.
Fermare lo sviluppo dell'IA
La lettera si rivolge specificamente ai laboratori di intelligenza artificiale, interrompere l'addestramento dei sistemi di intelligenza artificiale per almeno sei mesi, più potente di GPT-4e collaborare con autorità di regolamentazione indipendenti per sviluppare protocolli di sicurezza per la progettazione e lo sviluppo avanzati di IA. I firmatari sostengono che questa pausa sia necessaria per garantire la sicurezza e la regolamentazione dei futuri sistemi di intelligenza artificiale dati gli elevati rischi, che rappresentano per la società e l'umanità.
È improbabile che la richiesta di una moratoria abbia un impatto immediato sull'attuale clima nella ricerca sull'intelligenza artificiale, che ha visto aziende tecnologiche come Google e Microsoft affrettarsi a introdurre nuovi prodotti senza considerare appieno le implicazioni etiche e di sicurezza. Tuttavia, è un segnale di una crescente opposizione a questo approccio "invia ora e correggi dopo", che potrebbe influenzare le normative e la legislazione future.
Fronte OpenAI, da lui fondato Elon Musk, ha espresso la potenziale necessità di una "revisione indipendente" dei futuri sistemi di IA per garantirlo per soddisfare gli standard di sicurezza. I firmatari della lettera aperta sostengono che ora è il momento per i laboratori di intelligenza artificiale e gli esperti indipendenti di lavorare insieme per sviluppare e implementare protocolli di sicurezza comuni per la progettazione e lo sviluppo avanzati AI, che sono verificati e supervisionati da esperti esterni indipendenti.
Anche se c'è un effetto immediato di una lettera aperta incerta, sottolinea la necessità di un dialogo e di una cooperazione costanti tra ricercatori di intelligenza artificiale, società tecnologiche e autorità di regolamentazione per garantire lo sviluppo e la diffusione responsabili dei sistemi di IA in futuro.
