非営利団体Future of Life Instituteが公開した公開書簡の中で、テスラのCEOイーロン・マスク氏を含む人工知能研究者グループは、大規模な人工知能システムの開発の一時停止を求めている。彼らの手紙にはこう書かれていた：AI開発を止めろ！この書簡は、これらのシステムが社会と人類にもたらす潜在的なリスク、およびそれらに対する理解と制御の欠如に対する懸念を表明しています。研究者らはAI研究所に対し、少なくとも6か月間はGPT-4より強力なAIシステムのアップデートを停止し、独立した規制当局と協力してセキュリティプロトコルを開発するよう求めている。
テスラ CEO のイーロン マスクと著者を含む著名な AI 研究者のグループ ユヴァル・ノア・ハラリ氏へ、大規模な人工知能システムの開発の一時停止を求める公開書簡に署名しました。非営利団体Future of Life Instituteが発行したこの書簡は、世界中の人工知能研究所が、その作成者を含む誰もが使いこなすには強力すぎる機械学習システムの開発と導入をめぐって「制御されない競争」をしていると指摘している。理解した。または確実に制御することができました。
AI開発をやめる
この書簡は特に AI 研究所に呼びかけています。 AI システムのトレーニングを少なくとも 6 か月間停止する GPT-4より強力、独立した規制当局と協力して、高度な AI 設計と開発のためのセキュリティ プロトコルを開発します。署名者らは、高いリスクを考慮して将来のAIシステムの安全性と規制を確保するためにこの一時停止が必要であると主張している。 彼らは社会と人類にとってそれを表しています。
一時停止の要求が人工知能研究の現在の状況に直ちに影響を与える可能性は低い。人工知能研究の状況では、グーグルやマイクロソフトなどのハイテク企業が安全性や倫理的影響を十分に考慮せずに新製品の導入を急いでいる。しかし、これはこの「今すぐ送信して後で修正する」アプローチに対する反対が高まっている兆候であり、将来の規制や法律に影響を与える可能性があります。
額 OpenAI、彼が設立した イーロン・マスク、将来の AI システムの「独立したレビュー」が潜在的に必要であることを表明しました。 安全基準を満たすために。公開書簡の署名者らは、今こそAI研究所と独立専門家が協力して高度な設計と開発のための共通セキュリティプロトコルを開発、実装する時期だと主張している。 AI、独立した外部専門家によって監査および監督されています。
即効性はあるものの、 公開書簡の内容は不明、相互間の継続的な対話と協力の必要性を強調します。 人工知能研究者、テクノロジー企業および規制当局は、将来の AI システムの責任ある開発と展開を保証します。
