비영리단체인 Future of Life Institute가 발표한 공개 서한에서 Tesla CEO Elon Musk를 포함한 인공 지능 연구원 그룹은 대규모 인공 지능 시스템 개발에 대한 모라토리엄을 요구하고 있습니다. 그들의 편지는 다음과 같습니다. AI 개발을 중지하십시오! 이 서한은 이러한 시스템이 사회와 인류에게 미칠 잠재적 위험과 이에 대한 이해 및 통제 부족에 대한 우려를 표명합니다. 연구원들은 AI 연구실에 최소 6개월 동안 GPT-4보다 강력한 AI 시스템 업데이트를 중단하고 독립 규제 기관과 협력하여 보안 프로토콜을 개발할 것을 촉구하고 있습니다.
Tesla CEO Elon Musk와 저자를 포함한 유명 AI 연구자 그룹 유발 노아 하라리에게, 대규모 인공 지능 시스템 개발에 대한 유예를 촉구하는 공개 서한에 서명했습니다. 비영리 생명 미래 연구소(Future of Life Institute)가 발행한 이 서한은 전 세계 인공 지능 연구소가 제작자를 포함해 누구라도 마스터하기에는 너무 강력한 기계 학습 시스템을 개발하고 배포하기 위해 "통제되지 않는 경쟁"을 하고 있다고 지적합니다. 이해했다. 또는 안정적으로 제어할 수 있었습니다.
AI 개발 중단
편지는 특히 AI 연구소를 요구합니다. 최소 6개월 동안 AI 시스템 훈련을 중단하고, GPT-4보다 강력하다, 독립 규제 기관과 협력하여 고급 AI 설계 및 개발을 위한 보안 프로토콜을 개발합니다. 서명자들은 높은 위험을 고려할 때 미래 AI 시스템의 안전과 규제를 보장하기 위해 이러한 일시 중지가 필요하다고 주장합니다. 그들은 사회와 인류에게 대표됩니다.
모라토리엄 요청은 현재 인공지능 연구 환경에 즉각적인 영향을 미칠 것 같지 않습니다. 이로 인해 Google 및 Microsoft와 같은 기술 회사는 안전성과 윤리적 영향을 충분히 고려하지 않고 신제품 출시를 서두르고 있습니다. 그러나 이는 향후 규정과 입법에 영향을 미칠 수 있는 "지금 보내고 나중에 수정"하는 접근 방식에 대한 반대가 커지고 있다는 신호입니다.
이마 OpenAI, 그가 설립한 엘론 머스크, 이를 보장하기 위해 미래 AI 시스템에 대한 "독립적 검토"의 잠재적 필요성을 표명했습니다. 안전 기준을 충족하기 위해. 공개 서한의 서명자들은 이제 AI 연구소와 독립적인 전문가들이 함께 협력하여 고급 설계 및 개발을 위한 공통 보안 프로토콜을 개발하고 구현해야 할 때라고 주장합니다. 일체 포함, 독립적인 외부 전문가가 감사하고 감독합니다.
즉각적인 효과는 있지만 불확실한 공개 서한의, 지속적인 대화와 협력의 필요성을 강조합니다. 인공지능 연구자, 기술 회사 및 규제 기관은 미래에 AI 시스템의 책임감 있는 개발 및 배포를 보장합니다.
