世界的な脅威としての AI: 科学者と業界は人類滅亡の可能性を警告

センター AIセキュリティに拠点を置く非営利団体です。 サンフランシスコ、多くの重要なプレーヤーを共同でサポートする声明を発表しました。 AIの分野で。この声明では具体的な解決策は示されていないが、AIセキュリティにさらに重点を置く必要性についての統一見解を示している。

世界的な脅威としての AI

これらの専門家が勇気を出して懸念を表明したのはこれが初めてではない。その中には今年、開発に6か月の「一時停止」を求める公開書簡に署名した者もいた。 AI。この書簡は批判を集めており、AIがもたらすリスクを誇張しているという人もいれば、リスクには同意するものの、それに対処する方法には同意しないという人もいる。

懐疑論者はこうした予測を疑い、AIシステムは車の運転などの比較的単純なタスクさえも処理できないと指摘している。この研究分野への長年の努力と数十億ドルの投資にもかかわらず、完全自動運転車は依然として現実から程遠いです。 AI がこの 1 つのタスクさえも習得できない場合、今後数年間に他のすべての人類の成果を達成する可能性はどのくらいあるでしょうか? AIは世界的な脅威?!

しかし、擁護派や AI懐疑論者 大規模な監視の実現から、「予測警察」アルゴリズムの強化、偽情報や虚偽の情報の作成まで、AI システムがすでにいくつかの脅威を提示していることに同意します。

「AI コミュニティにおいてさえ、非常に一般的な誤解があります。 ほんの少しの「ブラックビュー」」は、 ニューヨークタイムズ CEO、ダン・ヘンドリックス氏は次のように述べています。 AIセキュリティセンター。 「しかし実際には、多くの人がこれらのことについてプライベートで懸念を表明するでしょう。」

AI のセキュリティに関する議論は複雑で物議を醸しており、詳細を理解するのが難しいことがよくあります。基本的な前提は、AI システムが急速に進歩し、セキュリティ メカニズムを超える可能性があるということです。一例として、大規模な言語モデルの急速な進歩は、将来の知性の獲得の可能性を示すものとしてよく引用されます。専門家は、ある程度の洗練度があれば、次のようなことが起こる可能性があると警告しています。 それらの動作を制御することは不可能.

セキュリティの問題 AI は欧州にとって特に重要であり、欧州では信頼性の高い AI に関する倫理ガイドラインを政策と法律に定めています。ヨーロッパでは、公共の場での自動顔認識アルゴリズムの使用など、AI システムが私たちの価値観に反する方法で使用されている例をすでに多く見てきました。問題は、この規制が十分な効果があるのか、それともAIの開発を一時停止するなど、より厳しい措置を考えなければならないのかということだ。

これは、私たちが注意しなければならないことをもう一度思い出させてくれます。地獄への道は善意で舗装されている」。テクノロジーは本質的に良いものでも悪いものでもありません。重要なのはそれをどのように使用するかであるということを覚えておく必要があります。今のところ、AI は今日私たちを脅かしているようには見えませんが、常に警戒を怠らず、あらゆる不測の事態に備えることが重要です。結局のところ、後悔するよりは安全である方が良いのです。