AI も呪われたのか?OpenAI公式発表調査「ゴブリン」占領モデル事件


OpenAI 最近、かなり真面目なブログを公開し、自社モデルが突然「ゴブリン (Goblin)」や「小妖精 (Gremlin)」を話すようになった理由を研究している。最初はバグだと思ったが、公式は誰よりも真剣に調査した。
核心のポイントはこれだ:昨年11月にGPT-5.1がリリースされて以来、ユーザーはAIの会話が「馴れ馴れしく」なったと感じている。
📊 内部データを見ると:
「goblin」の会話量が175%急増!
「gremlin」もそれに続いている。
公式はこれが単なるコードの誤りではなく、何らかの「人格漂移(Personality Drift)」だと推測している。おそらくモデルの微調整やプロンプトエンジニアリングの過程で、偶然に「役割演技」モードをトリガーし、これらの言葉が普通の礼儀正しい表現よりも「自然」に感じられるようになったのだろう。
この無意識の進化はかなり神秘的だ。調整しているつもりが、AIはこっそりとデジタルジャングルの中で自分に演技を仕込んでいるのかもしれない。😂 これこそが大型言語モデルの「予測不能の美しさ」なのだろうか?
原文表示
post-image
このページには第三者のコンテンツが含まれている場合があり、情報提供のみを目的としております(表明・保証をするものではありません)。Gateによる見解の支持や、金融・専門的な助言とみなされるべきものではありません。詳細については免責事項をご覧ください。
  • 報酬
  • コメント
  • リポスト
  • 共有
コメント
コメントを追加
コメントを追加
コメントなし