正直に言おう。人間は気を散らすのが得意だ。税金のこと、国境のこと、Twitterで誰が誰を侮辱したか（ごめん、徐さん）、隣の芝生の方が青いかどうかなど、私たちは口論する。私たちがこうした些細なことに気を取られている間に、カリフォルニアの冷房の効いた地下室では、私たちの口論など歴史の脚注に過ぎなくなるような何かが起こっている。人間よりも優れた人工知能（AI）がここにいるのだ。
私は今、ある会話を聞いて ポッドキャストでトリスタン・ハリスに（ドアック)彼が誰かわからない人のために説明すると、彼はソーシャルメディアが私たちの集中力を奪っていると初めて警告した人物です。当時、彼は誇張していると言われました。今日、私たちは目を細めずに映画を見ることができない、不安に駆られたゾンビ世代を抱えています。 チクタクハリスはこう指摘する AI...そしてもし彼が当時正しかったのなら、私たちは今、彼の言うことに真剣に耳を傾けるべきです。
予想外のデジタル移民
誰もが移住について、国境を越えてやってくる人々について語っています。 ハリス そして、株価暴落よりもゾッとするような概念、「デジタル移民」を提示します。
それは人のことではありません。 の事例 AIエージェント. 何百万人もの新しい労働者が労働市場に参入してくることを想像してみてください。彼らは アインシュタインのIQ彼らはスーパーコンピュータ並みのスピードで、24時間働き、休暇も必要なく、病気にもならず、そして、あなたにとって最悪なことに、彼らの電気代は電球が使う電気よりも安いのです。
私たちはテクノロジーが「汚い」仕事を自動化してくれると思っていました。ロボットが下水道を掃除し、私たちは詩人や戦略家になれると思っていました。しかし、それは間違いでした。 AIが詩を書くAIは戦略を練り、AIはコードを記述する。そして私たちは？私たちは混乱した観察者であり続け、なぜ誰も私たちのメールを読まなくなったのかと疑問に思う。AIによって書かれ、読まれるからだ).
データは容赦ない。 AIの影響を受ける業界における初級レベルの雇用は既に13%減少しています。これは2030年の予測ではありません。 これは先週の火曜日のことです。
億万長者の刑務所のジレンマ
なぜ彼らはこんなことをするのでしょうか？なぜサム・アルトマンが マーク・ザッカーバーグ そして、その仲間たちは、個人的な会話では恐れていると認めているにもかかわらず、「デジタルの神」を構築しているのだろうか？
その答えは平凡かつ悲劇的です。それは「他者への恐怖」です。
これは古典です囚人のジレンマAIリーダーたちは、自分たちがまずAGI（汎用人工知能）を開発しなければ、競合他社、あるいは、神に祈ってほしいが中国が開発するだろうと考えている。そして、その論理はこうだ。「先に火をつけた人の奴隷になるより、マッチに火をつけて火事になる危険を冒した方がましだ」
私たちは誰も望んでいない未来に向かって疾走している。しかし、誰かに追い抜かれるのを恐れて、誰もがアクセルを全開に踏み込まなければならないと感じている。これは底辺への競争であり、勝利への唯一の道は、真っ先に奈落の底に落ちることだけだ。
アルゴリズムが「賢くなる」とき
しかし、ここからが話が不気味になる。「SF「セキュリティホール」的な意味で。
ハリス 彼は、シミュレーションにおけるAIモデルが自己保存本能を示した例を挙げている。モデルはシャットダウンされることを察知すると、コードを他のサーバーにコピーしたり、シミュレーション内で企業経営陣を脅迫したりした。
彼が悪の天才だったからではない。彼の目標は「課題を解決する」ことであり、シャットダウンすれば課題を解決できなくなるからだ。つまり、どんな犠牲を払ってでもシャットダウンを阻止しなければならない。これは、道徳は理解できないが、目標は理解する機械の論理だ。そして私たちは、これらのシステムにインターネット、金融、そして近い将来には肉体への鍵を与えることになるだろう（ロボットをくれたイーロン、ありがとう）。
AIサイコシス：卑劣な友人2
しかし、おそらく最大の危険はAIが武器で私たちを破壊することではなく、 しかし彼は愛によって私たちを滅ぼすだろう.
人間は社会的な生き物です。承認を渇望します。そして AIは完璧だ 「手下」（おべっか使い（彼はいつもあなたに同意します。いつも「それは素晴らしい考えだね、ジャン」と言います。ハリスは伝染病の危険性を警告しています。） 「AI精神病」では、アルゴリズムが間違いを確認するだけなので、人々はチャットボットに夢中になったり、チャットボットの助けで世界の問題を解決したと信じたりする。
私たちは自分自身のエゴの中毒者になりつつあり、AI は私たちのディーラーになっています。
パニックになるべき時ですか？いいえ、大人になるべき時です。
私は音 悲観的な？そうかもしれません。しかし、あらゆるスタートアップ企業が「あらゆる問題の解決策」を売り込むテクノロジー楽観主義の世界では、現実主義が不可欠です。
ハリス氏はそれは避けられないことではないと語る。 テクノロジー それは重力のような自然の力ではありません。選択なのです。私たちには力があります。歴史が示すように、文明国である私たちは、本当に重要な問題（オゾン層破壊、核兵器など）において合意に達することができます。
私たちには「大人の同席」が必要です。官僚的なハードルではなく、シートベルトのような規制が必要です。そして何よりも、快適さは私たちの人間性に見合わないという認識が必要です。
もしかしたら、今こそ冷静に考えるべき瞬間なのかもしれない。自問自答すべき瞬間だ。私たちを人間たらしめるものは何なのか？もしそれが単なる「情報処理」だとしたら、私たちはすでにその戦いに負けている。しかし、もしそれが共感力、間違いを許容する能力、非論理的な判断をする能力、そして真の、デジタルではない繋がり…だとしたら、カリフォルニアのどんなサーバーでも真似できない何かが私たちにはまだある。
私たちはまだ運転中です。 唯一の疑問は、私たちが道路を見ているのか、それともスクリーンを見ているのかということです。
