Un gruppo di rinomati ricercatori e figure di spicco nel campo dell'intelligenza artificiale (AI) ha espresso la propria preoccupazione per il futuro dell'umanità in 22 parole. La dichiarazione è breve ma molto chiara: "Ridurre il rischio di estinzione dell'IA dovrebbe essere una priorità globale insieme ad altri rischi a livello sociale come le pandemie e la guerra nucleare". La dichiarazione è stata firmata dal CEO di Google DeepMind Demis Hassabis, dal CEO di OpenAI Sam Altman e da Geoffrey Hinton e Yoshua Bengio, entrambi vincitori del Turing Award per il loro lavoro nell'IA.
Centro per Sicurezza dell'IA, un'organizzazione senza scopo di lucro con sede a San Francisco, ha rilasciato la dichiarazione a sostegno congiunto di molti importanti attori nel campo dell'IA. La dichiarazione non offre soluzioni concrete, ma presenta una visione unificata sulla necessità di una maggiore attenzione alla sicurezza dell'IA.
L'intelligenza artificiale come minaccia globale
Non è la prima volta che questi esperti hanno avuto il coraggio di esprimere la loro preoccupazione. Alcuni di loro sono stati firmatari di una lettera aperta quest'anno, in cui hanno chiesto una "pausa" di sei mesi nello sviluppo AI. La lettera ha suscitato critiche, con alcuni che affermano che esagera i rischi posti dall'IA, mentre altri concordano con i rischi ma non con come affrontarli.
Gli scettici dubitano di queste previsioni, sottolineando che i sistemi di intelligenza artificiale non possono gestire nemmeno compiti relativamente semplici, come guidare un'auto. Nonostante anni di sforzi e miliardi di investimenti in quest'area di ricerca, le auto a guida completamente autonoma sono ancora lontane dalla realtà. Se l'intelligenza artificiale non riesce a padroneggiare nemmeno questo compito, allora che possibilità ha di raggiungere tutti gli altri traguardi umani negli anni a venire? AI come una minaccia globale?!
Tuttavia, gli avvocati e Gli scettici dell'IA concordano sul fatto che i sistemi di intelligenza artificiale presentano già alcune minacce: dall'abilitazione della sorveglianza di massa, al potenziamento di algoritmi di "polizia predittiva" e alla creazione di disinformazione e false informazioni.
“C'è un malinteso molto comune, anche nella comunità AI, che ci sia solo alcune "visualizzazioni nere"," è per Il New York Times ha dichiarato Dan Hendrycks, amministratore delegato Centri di sicurezza AI. "Ma in realtà, molte persone solleverebbero preoccupazioni su queste cose in privato".
Il dibattito sulla sicurezza dell'IA è complesso e controverso e i dettagli sono spesso difficili da comprendere. Il presupposto di base è che i sistemi di intelligenza artificiale potrebbero avanzare rapidamente e superare i meccanismi di sicurezza. Ad esempio, il rapido progresso dei modelli linguistici di grandi dimensioni viene spesso citato come indicazione della possibile futura acquisizione di intelligenza. Gli esperti avvertono che con un certo livello di raffinatezza potrebbe diventarlo impossibile controllarne il funzionamento.
Una questione di sicurezza L'IA è particolarmente importante per l'Europa, che ha ancorato linee guida etiche per un'IA affidabile nella sua politica e nella sua legislazione. In Europa, abbiamo già visto molti esempi di sistemi di intelligenza artificiale utilizzati in modi che sono in conflitto con i nostri valori, come l'uso di algoritmi di riconoscimento facciale automatizzati negli spazi pubblici. La domanda è se il regolamento sia sufficientemente efficace o se dovremo pensare a misure più severe, come la sospensione temporanea dello sviluppo dell'IA.
Questo è un altro promemoria che dobbiamo stare attenti perché "la strada per l'inferno è lastricata di buone intenzioni". Dobbiamo ricordare che la tecnologia non è intrinsecamente buona o cattiva: è il modo in cui la usiamo che conta. Per ora, l'intelligenza artificiale non sembra minacciarci oggi, ma è importante rimanere vigili e prepararsi a ogni eventualità. Dopotutto, è meglio prevenire che curare.
