En una carta abierta publicada por el Future of Life Institute sin fines de lucro, un grupo de investigadores de inteligencia artificial, incluido el director ejecutivo de Tesla, Elon Musk, piden una moratoria en el desarrollo de sistemas de inteligencia artificial a gran escala. Su carta dice: ¡Detengan el desarrollo de la IA! La carta expresa preocupación por los riesgos potenciales que estos sistemas representan para la sociedad y la humanidad, así como la falta de comprensión y control sobre los mismos. Los investigadores están instando a los laboratorios de IA a que dejen de actualizar los sistemas de IA más fuertes que GPT-4 durante al menos seis meses y trabajen con reguladores independientes para desarrollar protocolos de seguridad.
Un grupo de investigadores de IA de alto perfil, incluido el CEO de Tesla, Elon Musk, y el autor. A Yuval Noah Harari, firmó una carta abierta pidiendo una moratoria en el desarrollo de sistemas de inteligencia artificial a gran escala. La carta, publicada por el Future of Life Institute sin fines de lucro, señala que los laboratorios de inteligencia artificial de todo el mundo están en una "carrera descontrolada" para desarrollar e implementar sistemas de aprendizaje automático que son demasiado poderosos para que cualquiera, incluidos sus creadores, los domine. comprendido. O logró controlar de manera confiable.
Detener el desarrollo de IA
La carta llama específicamente a los laboratorios de IA, dejar de entrenar los sistemas de IA durante al menos seis meses, más potente que GPT-4y trabajar con reguladores independientes para desarrollar protocolos de seguridad para el diseño y desarrollo avanzado de IA. Los firmantes argumentan que esta pausa es necesaria para garantizar la seguridad y la regulación de los futuros sistemas de IA dados los altos riesgos, que representan para la sociedad y la humanidad.
Es poco probable que el llamado a una moratoria tenga un impacto inmediato en el clima actual en la investigación de inteligencia artificial, que ha visto a compañías tecnológicas como Google y Microsoft apresurarse a introducir nuevos productos sin considerar completamente las implicaciones éticas y de seguridad. Sin embargo, es una señal de una creciente oposición a este enfoque de "enviar ahora y corregir más tarde", que podría influir en futuras regulaciones y legislaciones.
Frente IA abierta, que fundó Elon Musk, expresó la necesidad potencial de una "revisión independiente" de los futuros sistemas de IA para garantizar que para cumplir con los estándares de seguridad. Los firmantes de la carta abierta argumentan que ahora es el momento de que los laboratorios de IA y los expertos independientes trabajen juntos para desarrollar e implementar protocolos de seguridad comunes para el diseño y desarrollo avanzados. AI, que son auditados y supervisados por expertos externos independientes.
Aunque hay un efecto inmediato de una carta abierta incierta, destaca la necesidad de un diálogo y una cooperación constantes entre investigadores de inteligencia artificial, empresas de tecnología y reguladores para garantizar el desarrollo y la implementación responsables de los sistemas de IA en el futuro.
