Dans une lettre ouverte publiée par l'Institut à but non lucratif Future of Life, un groupe de chercheurs en intelligence artificielle, dont le PDG de Tesla, Elon Musk, appellent à un moratoire sur le développement de systèmes d'intelligence artificielle à grande échelle. Leur lettre se lit comme suit : Arrêtez le développement de l'IA ! La lettre exprime des inquiétudes quant aux risques potentiels que ces systèmes posent à la société et à l'humanité, ainsi qu'au manque de compréhension et de contrôle à leur égard. Les chercheurs exhortent les laboratoires d'IA à cesser de mettre à jour les systèmes d'IA plus puissants que GPT-4 pendant au moins six mois et à travailler avec des régulateurs indépendants pour développer des protocoles de sécurité.
Un groupe de chercheurs de haut niveau en IA, dont le PDG de Tesla - Elon Musk et l'auteur À Yuval Noah Harari, a signé une lettre ouverte appelant à un moratoire sur le développement de systèmes d'intelligence artificielle à grande échelle. La lettre, publiée par l'Institut à but non lucratif Future of Life, note que les laboratoires d'intelligence artificielle du monde entier sont dans une "course incontrôlée" pour développer et déployer des systèmes d'apprentissage automatique qui sont trop puissants pour être maîtrisés par quiconque, y compris leurs créateurs. compris. Ou réussi à contrôler de manière fiable.
Arrêter le développement de l'IA
La lettre appelle spécifiquement les laboratoires d'IA, arrêter la formation des systèmes d'IA pendant au moins six mois, plus puissant que GPT-4, et travailler avec des régulateurs indépendants pour développer des protocoles de sécurité pour la conception et le développement avancés d'IA. Les signataires soutiennent que cette pause est nécessaire pour assurer la sécurité et la réglementation des futurs systèmes d'IA compte tenu des risques élevés, qu'ils représentent pour la société et l'humanité.
Il est peu probable que l'appel à un moratoire ait un impact immédiat sur le climat actuel de la recherche sur l'intelligence artificielle, qui a vu des entreprises technologiques comme Google et Microsoft se précipiter pour introduire de nouveaux produits sans tenir pleinement compte des implications en matière de sécurité et d'éthique. Cependant, c'est le signe d'une opposition croissante à cette approche "envoyer maintenant et réparer plus tard", qui pourrait influencer les futures réglementations et législations.
Front OpenAI, qu'il a fondé Elon Musk, a exprimé le besoin potentiel d'un "examen indépendant" des futurs systèmes d'IA pour s'assurer que pour répondre aux normes de sécurité. Les signataires de la lettre ouverte affirment que le moment est venu pour les laboratoires d'IA et les experts indépendants de travailler ensemble pour développer et mettre en œuvre des protocoles de sécurité communs pour la conception et le développement avancés. IA, qui sont audités et supervisés par des experts externes indépendants.
Bien qu'il y ait un effet immédiat d'une lettre ouverte incertaine, souligne la nécessité d'un dialogue et d'une coopération constants entre chercheurs en intelligence artificielle, les entreprises technologiques et les régulateurs pour assurer le développement et le déploiement responsables des systèmes d'IA à l'avenir.
