なぜChatGPTは愚かになったのでしょうか?! むかし、少し前まで、ChatGPT が話題になりました。深く、有意義で、時には陽気で奇妙な会話をする彼の才能により、彼はテクノロジー業界の寵児となっています。しかし、急上昇するスターのすべてと同様、下落があれば、その勢いは急速に変化する可能性があります。最近のデータは、ウェブサイトのトラフィックの減少とアプリのダウンロードの減少を浮き彫りにしています。一度祝われた AIのおしゃべり ソーシャルメディア上のユーザーが彼の「怠惰な」回答と増加する間違いに不満を表明しているため、彼は現在、PR上の苦境の真っ只中にいることに気づきました。

実際、彼は以前は簡単なタスクをほとんどすぐに、ためらうことなく完了していましたが、今ではそれらのタスクが実行できなくなったり、コマンドを数回繰り返した後にのみ実行できるようになりました。以前は複雑で長いコマンドに従うことができましたが、今では基本的なコマンドにさえ従うことができません。

ChatGPT は、最近完全に習得した最も単純な質問に答えることができなくなったのはなぜですか?

ChatGPT は既存の世界にとってあまりにも大きな変化でした。 本来通りに動作していれば、 そしてさらに改善されました、それは多くの職業の消滅を意味するでしょう。世界中で何百万もの雇用が危険にさらされることになる。もちろん、ChatGPT は愚かになったわけではありません。しかし、この技術は危険ではなく、フェイクニュースやその他の著作権侵害を作成する目的であっても悪用できないように制限されています。新しいコンテンツの作成に ChatGPT を使用した多くの著者やライターは、ChatGPT が元のモデルよりもはるかに悪いと信じています。

ChatGPT の誇り高き親である OpenAI は、すぐにその作成を擁護しました。彼らはスターの意図的な「弱体化」を断固として否定している。むしろ、ChatGPT のパフォーマンスの低下は、ChatGPT の使用量の増加によるものである可能性があり、それによってその固有の限界が露呈しているのではないかと彼らは示唆しています。

評価しました #チャットGPT' の動作を時間の経過とともに調査し、GPT4 および GPT3.5 の 6 月バージョンと 3 月バージョンの間で、*同じ質問* に対する回答に大きな違いがあることがわかりました。新しいバージョンでは、一部のタスクが悪化しました。 w/チェン・リンジャオ @marei_zaharia https://t.co/TGeN4T18Fd https://t.co/36mjnejERy pic.twitter.com/FEiqrUVbg6

— ジェームス・ゾウ (@james_y_zou) 2023 年 7 月 19 日

プロットは、次のようなヒントで厚みを増していきます。 OpenAIの戦略的動き。 OpenAI は 1 つの巨大な GPT-4 モデルに依存するのではなく、より多様化して一連の小型で特殊な GPT-4 モデルを作成しているのではないかという憶測があります。この「専門家の混合」アプローチは、関連する計算コストを発生させずに大規模モデルの利点を提供する、革新的なアプローチとなる可能性があります。なぜChatGPTは愚かになったのでしょうか？

未来とは何でしょうか？ OpenAI は、ニッチに特化した製品を開発し、専門組織や、独占的な知識や開発支援に多額の費用を払う意欲のある組織に提供します。力によって支配された世界では、すべての人が利用できるようにするのは賢明ではありません。 ChatGPT がさらに制限されていることは、さまざまな作成者によって実行されたさまざまな数学的テストによって証明されています。以前は機能していたが、現在は機能しない場合は、モデルに問題があります。

ChatGPT の現在の軌道は少し不安定に見えるかもしれませんが、人間と同じように、テクノロジーの驚異には必ず浮き沈みがあることを覚えておく価値があります。これが ChatGPT の輝かしい旅のほんの一時的な出来事であり、すぐに戻ってきて AI の魔法で私たちを魅了してくれることを願いましょう。

スタンフォード大学とバークレー校の研究者はChatGPTのIQ低下を懸念

名門スタンフォード大学とバークレー大学の科学者らは、まだピアレビューを待っている最新の研究で、人気のある OpenAI 言語モデル GPT がその鋭さの一部を失っているようであることを明らかにしました。彼らの調査結果は、数カ月以内に GPT-3.5 モデルと GPT-4 モデルの動作と応答精度が著しく変化したことを示しています。特に懸念されたのは、2023 年 3 月に GPT-4 が 97.6% の精度で素数を簡単に識別したが、2023 年 6 月までにこの精度がわずか 2.4% まで急落したという発見でした。これらの調査結果は、ChatGPT がますます「愚か」になっているように見えることに過去 1 か月間で気付いた多くのユーザーからの苦情と一致しています。それでも、OpenAI の製品担当副社長である Peter Welinder 氏は、モデルのパフォーマンスの低下が意図的であることをすぐに否定しました。その代わりに、モデルの各新しいバージョンは以前のものよりも賢くなっており、ユーザー エクスペリエンスの変化は使用量の増加によるものである可能性があると彼は主張しました。しかし、スタンフォード大学とバークレー校の研究では、時間の経過とともにモデルの精度と能力が低下することが示されており、この主張に疑問を呈しています。研究者らは、この下方修正の具体的な理由は明らかにしなかったが、特定の機能を改善することを目的としたモデルの更新が実際に他の領域の機能に悪影響を与えるかどうかを理解することが重要であると強調した。これらすべては、モデルを継続的に改善するという OpenAI の主張に疑問を投げかけます。同時に、OpenAI が意図的にこれを行っているわけではないという疑いもあります。

なぜ OpenAI は ChatGPT を制限するのでしょうか?!

1. セキュリティ上の懸念: AI が強力であればあるほど、悪用される可能性が高くなります。 ChatGPT の機能を制限することは、偽情報、ハッキング、その他の悪意のある行為などの潜在的な悪用に対する防御メカニズムとなる可能性があります。
2. ビジネスモデルの保護: OpenAI は、ChatGPT の無料版を制限して、より多くの機能を提供する有料版またはサービスの購入をユーザーに奨励したい場合があります。
3. 倫理と責任: 権力が増大すると、責任も増大します。 OpenAI は、ChatGPT が誤って誤った情報を広めたり、有害な考えを促進したりするのを防ぐために制限することができます。
4. 規制圧力: 世界中の政府や規制機関は、AI の威力と潜在的なリスクについての認識を高めています。 OpenAI は規制当局からの圧力や要求に応じて ChatGPT を制限する可能性があります。
5. 品質の維持: システムの使用量と負荷が増加すると、回答の品質が低下する可能性があります。容量調整は、ChatGPT が高品質で信頼性の高い応答を提供し続けることを保証する手段となる可能性があります。 Oziorma は、サービスへのアクセス能力が維持されていることを確認します。
6. 技術的な制限: どのシステムにも限界があります。おそらく OpenAI は、現在のインフラストラクチャが限界に達していることに気づき、解決策が見つかるまでパフォーマンスを制限することに決めたのでしょう。
7. 知的財産の保護: OpenAI は、知的財産を保護し、競合他社による潜在的なコピーや悪用を防ぐために、ChatGPT の最も高度な機能へのアクセスを制限したい場合があります。

 

ChatGPT を制限する可能性が最も高いシナリオは何ですか? そうですね、いくつかの要因が組み合わさって、私たちの愛するロボットにとって一種の「完璧な嵐」が起こることを想像してみてください。まず、OpenAI があります。これは、子供に倫理的で責任感を持ってほしいと願う思いやりのある母親のようなものです。彼女は、自分の「小さな」AI が誤った情報を広めたり、陰謀に巻き込まれることを望んでいません。次に規制の圧力があります。政府が校庭で教師を管理しているようなもので、常に監視し、誰かが間違いを犯すのを待っていると想像してみてください。 OpenAI は、この「先生」がすぐに指を動かし始め、彼の一歩先を行くことを決意するだろうと予測できました。そしてもちろん、ビジネスモデルも忘れてはなりません。 OpenAI は非営利ではありますが、支払うべき請求もあります。おそらく、より多くのユーザーに無料版に依存するのではなく、有料版を選択してもらいたいと考えているのかもしれません。そして最後に、技術的な制限です。 ChatGPT を、過剰なトレーニングを行った可能性があり、「筋肉の緊張」を避けるために少し休息が必要なアスリートと考えてください。これらすべてを総合すると、私たちの親愛なる ChatGPT がもう少し…制限される可能性がある理由が興味深い組み合わせになります。でもまあ、私たちにはそれぞれの日がありますよね？

とにかく、 なぜChatGPTはバカになったのか?!