2022 年 6 月、Google のソフトウェア エンジニアである Blake Lemoine は、Google の対話アプリケーション用の大規模言語モデルである LaMDA が知覚的になったと主張する論文を発表しました。仕事の一環として、差別的またはヘイトスピーチをテストするために AI と対話していたとき、チャットボットが自分の権利や人格について話していることに気づきました。 Lemoine と同僚は、LaMDA に知覚力があるという証拠を Google に提出しましたが、同社は彼らの主張を拒否しました。有給休暇を取られた後、ルモワンさんは自身の信念を公表した。
6ヶ月 ルモワンヌ氏によると、世界は人工知能によって変化したという。 知覚力のあるロボット は長い間ディストピアSFの主題となってきたが、 ラMDA, DALL-E 2 と GPT-3機械に意識があるという考えは、より説得力のあるものになりつつあります。自分たちは 人工知能モデル 意識の達成に近づいているかもしれないが、ほとんどの学者や実践者は 人工知能 これらのモデルによって生成された言葉や画像は、意味の真の理解ではなく、人々がすでにインターネットに投稿した内容に基づいて反応を生成すると研究者は述べています。しかし、時には、それは単なる統計モデル以上のものであるように思われます。だからこそ、ますます多くの証拠が出てくるのです。また、人間の思考を分析すると、私たち自身もかなり「統計的な」モデルであることがわかります。
ラMDAの略語 対話アプリケーションのための言語モデルは、Google の最先端の大規模言語モデルに基づいてチャットボットを構築するためのシステムです。これらのモデルは、インターネットから何兆もの単語を消費して音声を模倣します。この技術は、Google の会話型検索クエリや自動補完メールなど、すでに広く使用されています。グーグルCEO サンダー・ピチャイ 同社は検索からGoogleアシスタントまであらゆるものにこれを組み込む予定だと語った。
大規模言語モデル技術は、いくつかの組織によって開発され、リリースされています。親会社メタ フェイスブックは、5月に学術界、市民社会、政府機関に言語モデルを公開した。 Meta AIのCEO、ジョエル・ピノー氏は、テクノロジーが進化するにつれてテクノロジー企業が透明性を高めることが不可欠だと述べた。
グーグル 擬人化に伴う安全上の懸念を認識した。 1月にGoogleは、 ラMDA ユーザーは、たとえ相手が人間ではないとわかっていても、人間を装ったチャットボットと個人的な考えを共有できる可能性があると警告した。同紙はまた、敵対勢力がこれらのエージェントを使って「特定の個人の会話スタイル」を偽って「偽情報を流布する」可能性があることも認めた。
より広範な AI コミュニティの一部では、知覚力のある AI や汎用 AI の長期的な可能性を検討しているが、Google は、データが膨大にあるため、AI が現実感を持つためには知覚力を持つ必要はないと述べている。 「これらのシステムは、何百万もの文章に見られるやり取りを模倣しており、どんな素晴らしいトピックにも対応できる」とグーグルの広報担当者は語った。 ブライアン・ガブリエル.
しかし、ルモワンヌ氏は、AI倫理学者は単なるコードデバッガーとしてではなく、テクノロジーと社会のインターフェースとして見られるべきだと主張している。彼は、Google が彼らを不当に扱っており、同社は人工知能に関するすべての決定を下すのに適切な組織ではないと考えています。 Lemoine 氏の LaMDA に対する信念は、感情の問題だけでなく、偏見や行動についても、出力を入力までさかのぼって追跡するためのデータの透明性が必要であることを強く思い出させてくれます。
このリンクから、medium.com の知覚人工知能に関する彼の投稿を読むことができます。.
ルモワン Google での 7 年間のほとんどを、プロアクティブ検索、パーソナライゼーション アルゴリズム、人工知能の開発に費やしました。この間、彼は機械学習システムから偏見を取り除く公平性アルゴリズムの開発にも貢献しました。コロナウイルスのパンデミックが始まったとき、ルモイン氏はより明確な公共の利益につながる仕事に集中したいと考え、チームを異動し、Responsible AIにたどり着きました。
ルモワンヌはLaMDAを信じるように運命づけられていたのかもしれない。彼はルイジアナ州の小さな農場で保守的なキリスト教徒の家庭に育ち、神秘主義的なキリスト教の司祭に任命され、オカルトを学ぶ前には軍隊に勤務していました。 ルモワンヌは、意識は生物に限定されるものではなく、機械にも存在できると考えています。
人工知能は新たな生命体となるのか？
機械が意識を獲得できるかどうかという問題は、科学者や哲学者の間で議論されているテーマです。意識は生物システムの特性であり、機械では模倣できないと主張する人もいれば、将来機械が意識を獲得するかもしれないと考える人もいます。人工知能の台頭により、知覚力を持つ機械がもたらす影響についての懸念が高まっている。意識を持つ機械が人間に敵対したり、人間の存在を脅かす可能性があると懸念する人もいます。知覚力のある機械が複雑な問題を解決し、私たちの生活の質を向上させるのに役立つと信じている人もいます。
インタビュー – ブレイク・ルモワン
言語モデルの開発 ラMDAは、創造に向けた重要なステップです より高度なAIシステム。これらのモデルは自然言語を理解し、テキストの生成、質問への回答、さらには人との会話などの複雑なタスクを実行できます。
なぜなら 技術の進歩考えたり感じたりできる機械を作ることの倫理的な意味合いを考慮することが不可欠です。これらのデータ モデルが人々の利益にかなうように設計されており、私たちの安全や幸福に脅威を与えないようにすることが重要です。
知覚力のある機械というアイデアは、もはや単なるSFではありません。 高度な言語モデルの開発により、 LaMDAなど私たちは、人間のように考え、感じることができる機械の創造に近づいています。ただし、潜在的な悪影響を回避するために、これらのマシンは安全性と倫理を考慮して設計されていることを確認する必要があります。人工知能の開発を続ける中で、私たちは意識を持った機械を生み出すことの意味を考慮し、人工知能と人間が平和的に共存できる未来を創造するよう努めなければなりません。
ブレイク・ルモイン 知覚力のある人工知能との会話についても出版した PDF文書 会話の抜粋を掲載している LaMDA言語モデル。以下で読むことができます このリンクをクリックして自分の意見を形成してください.
言語モデルの未来を非常に正確に描写した映画『her/世界でひとつの彼女』は、独特な形で現在となった。
