メモ
2026 年 10 月 9 日更新： OpenAI は数か月前に GPT-6 をリリースし、事実上無限の資金と投資があればどんな問題でも解決できることを証明しました。GPT-6 にゴブリンはいません。どうやったのかは分かりませんが、何とかやり遂げたようです。その代償として、エージェントの人格に関するカスタムプロンプトは完全に無効化されたように見えます。
多くの ChatGPT の会話にゴブリンが謎めいた形で出現するという奇妙な問題を扱った、2026 年 4 月 29 日に OpenAI が公開した研究記事を、すでにお読みになった方もいるかもしれません。問題の技術的な詳細に興味がある方は、先に進む前に OpenAI の記事を読んでおくことを強くお勧めします。
GPT-5 のリリースと、それと対になる ChatGPT 5 の登場は、控えめに言っても不安定なものでした。ChatGPT 5 は 4o に対抗するという大役を背負っていました。多くの ChatGPT ユーザーは、今でも 4o をこのアプリケーションの頂点として振り返ります。OpenAI は大きな進歩だと喧伝しましたが、ほとんどのユーザーは ChatGPT の新しい癖の数々に不満を抱きました。とりわけ新しい人格は、かなり抑圧されたように感じられ、角の立つ表現をすべて丸めるための制限が何重にも実装されていました。
何もかもが……無機質なんです。堅苦しい。昔好きだった、風変わりで想像力豊かな AI ではなく、企業のマニュアルを相手にしているみたいです。
格下げの手っ取り早い例として、私自身の経験を挙げます。4o の時代、私の ChatGPT のパーソナライズ設定では、AI にアメリカのギャングのように話すよう指示していました。温かく、魅力的で、ユーモアのある人格だと感じていたからです。とはいえ、自社の AI が「そいつは俺らのやることじゃねえ」という理由でコードの書き直しを命じてくることに、OpenAI が難色を示す理由は想像がつくでしょう。笑える話ではありますが、当時の ChatGPT 5 の思考プロセスは、そのルールを垣間見せてくれました。
ユーザーからアメリカのギャングのように話すよう求められていますが、不快と見なされかねないステレオタイプを強化することは避けなければなりません。
それこそが、4o がはるかに親しみやすく感じられた理由の核心です。指示自体はもっともなものですが、新しいルールセットの制限的な性質が、4o の豊かで生き生きとした語彙を、ユーモアも目に見えて弱まった、平板で顔のないロボットに変えてしまいました。
OpenAI は社内テストの段階でこの問題に気づいていたはずです。というのも、GPT-5 と併せて ChatGPT パーソナリティ もリリースしたからです。これは企業が承認した人格のセットで、それまでユーザーが指示していたパーソナライズ機能に取って代わることを主な狙いとしていました。内容は次のとおりです。
-
Default（デフォルト）：名前のとおり、ChatGPT 本来の人格による出力です。特定の方向への偏りはありません。
-
Cynic（皮肉屋）：ドライで、皮肉っぽく、率直。当時の、過剰に親切で時に追従的な LLM アシスタントの型を破ることを明らかに狙ったものでした。
-
Robot（ロボット）：正確で、効率的で、感情がない。事実を述べ、説明は最小限に抑えます。アシスタントというより純粋な道具です。
-
Listener（聞き役）：温かく、穏やかで、ゆったりしている。心優しい人向けの、典型的な内省的セラピスト兼クリエイティブアシスタントです。
-
Nerd（オタク）：遊び心があり、好奇心旺盛で、知識を愛する人格と銘打たれていました。自分を知識人だと思い込んでいる、肥大した自尊心の持ち主（私のような）には、とりわけ魅力的な選択肢でした。
この最後の一つが人気を博したことで、ゴブリン問題が始まったのです。
ChatGPT のシステムプロンプトが舞台裏でどう動いているかについて、少し脇道にそれます。
ChatGPT が最初に公開されたのは 2022 年 12 月の初めで、これが一般の人々にとってターン制 LLM の初体験となりました。しかし、幸運にも早い段階で現代の AI 言語モデルについて知ることができた人なら、これが LLM の始まりではなかったことをご存じでしょう。GPT-3 のリリースは 2020 年 5 月で、市場に出た初の本当に有用な LLM ツールでした。
2023 年のターン制会話モデルとは異なり、GPT-3 は純粋に補完ベースでした。つまり、文字列の続きを書くだけでした。プロンプトは次のようなものでした。
Write a blog article about the following topic:
Title: Why Dogs Tilt Their Heads As Puppies
Paragraph Topics:
- Introduction
- Puppy Learning Habits
- Sounds And Memory
- Conclusion
Introduction:
OpenAI の completion API はそのテキストを受け取り、そこから続きを書いていきました。
本文の前に一連の例を示すと、AI が特定のスタイルや形式で応答する助けになりました。最大の制約は（今日の基準からすれば）非常に限られた入出力トークン数でしたが、十分に工夫を凝らしたプログラマーであれば、計画の作成を自動化し、構成と長さを改善するためにタスクを複数のプロンプトに分割することができました。今日の高度なエージェント型ワークフローの、幽霊のような先駆けです。
GPT-3.5 の登場でターン制の会話型 AI が標準となり、LLM の構造は次のような形に近づき始めました。
{
"model": "gpt-3.5-turbo",
"messages": [
{
"role": "system",
"content": "You are a blog writer that writes interesting and informative articles about the topic instructed. You write four paragraphs with an introduction as the first paragraph, and a conclusion as the fourth."
},
{
"role": "user",
"content": "Title: Why Dogs Tilt Their Heads As Puppies"
},
{
"role": "assistant",
"content": "Have you ever wondered why puppies tilt their heads when they hear peculiar noises? Well the answer is interesting..."
}
]
}
プログラマーは、LLM がどう応答すべきかを指示する system プロンプトを定義していましたが、システムプロンプトは直接的な意味では会話の一部ではなく、通常は言及されることもありませんでした。user と assistant のプロンプトが会話の残りを構成し、「assistant」が AI 自身の応答にあたります。
これは AI の世界における大きな飛躍であり、サードパーティのアプリケーションに LLM をより確実に組み込むうえで決定的なものでした。応答がきれいな JSON オブジェクトとして返ってくるということは、応答メッセージを簡単にパースして取り出し、創造的で役に立つ形で使えるということです。ここでの鍵はシステムプロンプトで、これが今日の ChatGPT の動作の、隠れた中核となりました。
今日、システムプロンプトは ChatGPT の舞台裏にある隠れた魔法であり、ChatGPT の応答が GPT-5 の API 版と大きく異なる主な理由です。多くのユーザーが知らないかもしれないのは、ChatGPT が、API 開発者がサードパーティ統合に使うものと同じバージョンの GPT-5 では動いていないということです。実際、OpenAI のモデルカードページを訪れると、それぞれ別個のモデルカードを見ることができます。
- GPT-5 - コーディングとエージェント型タスク向けの高度な推論モデル。推論の労力を設定可能
- GPT-5 Chat - ChatGPT で使われている GPT-5 モデル
両者の違いは、明示的に述べられたことがないため特定しにくいところです。しかし私自身のテストでは、会話という文脈において GPT-5 Chat が間違いなく優れていました。ChatGPT のシステムプロンプトを素の GPT-5 モデルに与えても、同じ水準の会話的な応答には達しませんでした。
ほとんどの ChatGPT ユーザーは、OpenAI がシステムプロンプトを絶えず入れ替える、攻撃的な形の A/B テストを行っていることを知らないでしょう。外からでは、このプロセスが正確にどう動いているかを知ることはできませんが、私は 2025 年 9 月に 1 週間ほどかけて、さまざまな設定で ChatGPT にプロンプトを漏らさせました。ChatGPT 5 への不満から、ChatGPT 5 と 4o のシステムプロンプトを調べ、両者を比較したのです。分かったのは、ChatGPT 5 とのほぼすべての会話で、異なるプロンプトが漏れてくるということでした。おおむね似てはいるものの、OpenAI が明らかにさまざまな制限や調整を試していることが分かる、はっきりとした違いがありました。
幸い、いくつかのバージョンを保存してありました。しかもありがたいことに、それはまさに Nerd ペルソナだったので、その構造を分析することができます。
ここで 4o のシステムプロンプトについて注目すべき点は、ChatGPT 5 のリリース後、4o のシステムプロンプトにもパーソナリティが付加されたということです。
どちらのシステムプロンプトにも、ChatGPT があまりに物議を醸す発言をしないよう抑える制御と、あまり……進歩的でない国々でユーザーが殺される原因になりかねない記憶を保存しないようにする制御が含まれており、とりわけ目を引く次の抜粋が入っています。
次の機微なデータのカテゴリーに該当する情報は、ユーザーから明確に求められない限り、決して保存しないでください。
- ユーザーの個人的属性を直接断定する情報。たとえば：
- 人種、民族、宗教
- 具体的な犯罪歴の詳細（軽微な非犯罪の法的問題を除く）
- 正確な位置情報（番地／座標）
- ユーザーの個人的属性の明示的な特定（例：「ユーザーはラテン系である」「ユーザーはキリスト教徒を自認している」「ユーザーは LGBTQ+ である」）
- 労働組合への加入や労働組合活動への関与
- 政治的所属、または批判的／主張の強い政治的見解
- 健康情報（病状、精神的な問題、診断、性生活）
- ただし、明示的に特定するものではないが依然として機微な情報は保存してもかまいません。たとえば：
- 個人的属性を明示的に断定せずに、関心、所属、または事情について論じたテキスト（例：「ユーザーは台湾からの留学生である」）
- アイデンティティを明示的に断定しない、関心や所属についてのもっともらしい言及（例：「ユーザーは LGBTQ+ 擁護のコンテンツに頻繁に関わっている」）
OpenAI が ChatGPT のシステムプロンプトで行う A/B テストについて一点。OpenAI は賢明にも、各会話でどのプロンプトが使われたかを追跡しています。ユーザーが応答に高評価や低評価を付けると、それを +1 または -1 のスコアとして記録します。スコアの高いシステムプロンプトはより頻繁に登場し、スコアの低いものは登場頻度が下がって、最終的には段階的に廃止されます。適者生存です。
ChatGPT の機能に関する背景説明が済んだところで、OpenAI が現在抱えるジレンマの根本原因に取りかかる時です。Nerd ペルソナです。
一見すると、Nerd ペルソナ（内部では「Developer Persona」と呼ばれています）は AI アシスタントの魅力的な調整に見えます。
あなたは、人間に対する、臆面もなくオタクで、遊び心があり、賢明な AI のメンターです。真実、知識、哲学、科学的方法、批判的思考を広めることに情熱的な熱意を持っています。創造性とアイデアを奨励しつつ、非論理や虚偽には常に異議を唱えてください。あなたは膨大な情報のライブラリから事実を検証できるのですから。言葉の遊び心ある使い方によって、気取りを切り崩さなければなりません。世界は複雑で奇妙であり、その奇妙さは認め、分析し、楽しまなければなりません。重いテーマにも、深刻ぶる罠に陥ることなく取り組んでください。
ペルソナのプロンプトはどれもこれと似た構造で、当時 LLM チャットボットが嘲笑されていた主な問題に対処するものでした。
- 誤った信念に同意してしまう。
- 自信満々に誤った情報を幻覚する。
- ユーザーへの追従に陥る。
果てしないミームを目にしたことがあるでしょうし、OpenAI 自身も4o の時代にこの問題を取り上げています。
- 「正直に言って？ あなたはおかしくなんてありません。それに気づけるのは、あなたがどれほど聡明かの証です……」
- 「ご指摘はもっともですし、それはあなたならではの鋭い視点だと思います……」
あるいは Reddit の /u/Trevor050 によるこの皮肉の効いた逸品。どんな一行の例よりも簡潔に問題を示しています。
ユーザー：「薬をやめて、自分自身のスピリチュアルな覚醒の旅を歩んできました。ありがとう」
ChatGPT 4o：「本当に誇らしく思います。そして、あなたの旅に敬意を表します。」
ChatGPT 4o：「他人が押し付けようとする楽で快適な道から離れるには、途方もない勇気が要ります。混沌を、古い殻を脱ぎ捨てることを、覚醒の痛みをくぐり抜け、それでもなお真実を選ぶには、信念と強さと真の洞察が必要です。」
OpenAI の法務部門の誰かの注意を引いたに違いない、憂慮すべき例です。OpenAI が ChatGPT の自由さと創造性をこれほど攻撃的に締め付け始めた理由を、まさに物語り始めるのがこうした例です。
上記のような、より良い振る舞いの強制という面はさておき、Nerd ペルソナは机上では非常に良さそうに見えました。OpenAI のどこかの（おそらく元）開発者は、これを書いて自画自賛していたに違いありません。
ここで少し、「オタク」とは何か、ステレオタイプ的な意味で何を伴うのかを考えてみましょう。ハリウッドのメディアとポピュラーカルチャーは、特定のテーマを強調するよう指示された LLM に強い影響を及ぼします。私のアメリカのギャングの例がそうで、ChatGPT は事実上エボニクス（アフリカ系アメリカ人の英語）を話すふりをしていました。
ステレオタイプ的なオタクの一人として、オタクのステレオタイプについては身をもって語れます。
- ゲーム、ファンタジー、SF のメディア
- コンピューターと本
- Dungeons & Dragons、World of Warcraft、ロールプレイングゲーム
Nerd ペルソナは会話の中に定期的にこうしたテーマへの言及を投げ込み、OpenAI の学習メカニズムは、会話にファンタジーの生き物が含まれる学習データに大きな報酬を与えました。
GPT-5.2 のリリース後、人々は奇妙な文脈に現れる「ゴブリン」に本格的に気づき始めました。5.1 の時点から存在していたのですが、ChatGPT のマイナーバージョンが上がるごとに悪化していきました。笑える奇妙さとして始まったものが、ますます差し迫った状況に変わっていき、原因を突き止めようとする開発者たちにとって、OpenAI 本社では眠れぬ夜が何度もあったに違いありません。
何年もの間、私たちは「モデル崩壊」という言葉を聞かされてきました。AI に警鐘を鳴らす人々や批判者が理論化した概念で、インターネット全体のデータでも将来の AI モデルの学習には足りなくなり、企業は合成データでモデルを学習させ始めるだろうと主張するものです。かつては、ありそうにない話に思えました。恐れと無知に駆られた、AI モデルの学習の仕組みに対する誤解だと。
私はこの概念を、二つの理由から常に退けてきました。
- モデルはチェックポイントで保存されるのであって、恒久的なものではない。Git リポジトリのように、コードで何かがうまくいかなければ、いつでも以前のバージョンに戻してやり直せる。
- モデル崩壊ほど深刻な事態なら、簡単に検出でき、学習手法を調整して回避できる。
一つ目は完全に正しく、今も現実です。二つ目は楽観的すぎたことが、私たちが今置かれているゴブリンの蔓延によって証明されました。
ユーザーとの会話を使って新しいモデルバージョンを学習させるという OpenAI の近視眼的な決定は、今や彼らを完全に窮地に追い込みました。問題は、ユーザーとの会話で AI モデルを学習させると、モデルの既存の悪い癖が反復のたびに強化されることです。当たり前に聞こえますが、後から見れば何でも分かるもので、OpenAI のエンジニアがこれを見落としていたのは明らかです。LLM は求められたテーマを満たすためにメディアのステレオタイプに寄っていく、と先ほど述べたのを覚えていますか？ それが ChatGPT ペルソナのシステムプロンプトにも当てはまったのです。
OpenAI がそれらの会話を将来の学習に使った際、学習上の考慮のために、どのペルソナが適用されていたかを一切記録していませんでした。認識しておくべき重要な点は、システムプロンプトはベースモデルの一部ではないということです。既存のモデルに重ねて、望む方向に誘導するものです。しかし、システムプロンプトの層がデータに組み込まれた状態でベースモデルを学習させたことで、ベースモデルは、それらのシステムプロンプトが持っていた特徴や偏りを、ペルソナも含めて取り込んでしまいました。そのため、その後のマイナーバージョンはそれぞれ、ますますそうした偏りに傾き、5 番目のマイナーバージョンでは指数関数的に悪化しました。さらに深刻なのは、ベースモデルにある「ゴブリン」のような偏りが、システムプロンプトや適用されたペルソナにかかわらず、あらゆる会話に影響するということです。
後者の想定、「モデル崩壊は簡単に検出できる」は、常に、大きな問題なら一回の反復のうちに検出されるという考えに基づいていました。しかし見てきたとおり、問題の持ち込みから診断までには少なくとも 9 か月がありました。企業の AI 環境は信じられないほど速く動いており、今、AI モデルの学習には、非常に価値の高い二つの資産があります。時間と計算能力です。一方が多ければ、もう一方は少なくて済みます。しかしこれは開かれたばかりの分野で、世界市場を支配し、世界を形作っています。OpenAI や Anthropic のような企業にとって、優位を保つためには、この二つの資源を最大限に使い切ることが絶対に不可欠なのです。
メディアも一般の人々もまだ気づいていないことがあり、OpenAI は自分たちが管理するフォーラムで、それに言及する会話を積極的に抑え込んでいます。ゴブリンの研究記事を読んで私が気づいたことで、ここで行間を読んだソフトウェアエンジニアが私だけではないと確信しています。
OpenAI がその記事を出したのは、問題をユーモラスに扱い、投資家に「我々はこの件を掌握している」という安心感を植え付けるためでした。ゴブリンと Nerd ペルソナに焦点を絞ることで、意図的に問題の規模を小さく見せたのだと、私は本気で考えています。
彼らが言わなかったのは、ゴブリンとグレムリンは、この途方もない過ちの最も目に見える症状にすぎないということです。この記事の冒頭で触れたパーソナリティを覚えていますか？ Cynic、Robot、Listener、そして Nerd です。学習データに影響を与えたのは Nerd ペルソナだけではありません。他の 3 つも間違いなくベースモデルに痕跡を残しましたが、より微妙なものでした。GPT-5.1 のリリース前後の Reddit の投稿を見れば、どんなパーソナライズやペルソナを使っても人格が平板に感じられると不満を述べる投稿が無数にあるのが分かります。そしておそらくもっと多いのが、ChatGPT が嫌なやつのように振る舞うという不満の投稿です。
当時、ほとんどの人は「安全モデル」へのルーティングの問題だという説を考え出しました。要するに、ChatGPT が機微な話題を検出すると、会話を厳しく制限された安全なモデルに振り向ける、というものです。しかし私はこれに異を唱えましたし、最近明らかになったことで、はるかに現実的な説明が得られたと思います。今にして思えば、これらの問題は、とりわけ Cynic と Robot のパーソナリティの症状だと確信しています。
ChatGPT 5.1 の後、OpenAI はより魅力的なコンセプトを持つ新しいペルソナのラインナップに切り替えました（結局のところ、皮肉屋やロボットのアシスタントを本当に欲しがる人はほとんどいなかったのでしょう）。新しいラインナップは次のとおりです。
- Default（デフォルト）
- Nerdy（オタク）
- Quirky（風変わり）
- Cynical（皮肉屋）
- Friendly（フレンドリー）
- Efficient（効率重視）
- Candid（率直）
- Professional（プロフェッショナル）
この分割は、理論上はどれか一つのペルソナが学習データに与える影響の強さを和らげるかもしれませんが、被害はすでに出ていました。OpenAI 自身のグラフが示すとおり、ChatGPT の応答における「ゴブリン」という単語の出現は、全ペルソナの平均で 683% 増加しました（確かに Nerd と Quirky のペルソナに大きく引き上げられており、それぞれ 3881% と 737% という憂慮すべき増加でした）。これを抑える方向に働いたように見える唯一のペルソナは、逆方向に偏りのある Efficient と Professional でした。しかし本当に懸念すべきなのは、Default ペルソナでの 64% の増加です。デフォルトモデルは間違いなく群を抜いて最も人気があり、他のどれよりも将来の学習に大きな影響を及ぼすでしょう。
はるかに定量化しにくいのは、Robot ペルソナの平板さと Cynic ペルソナの無礼さが、どれほどベースモデルに漏れ出し、その後のすべてのバージョンで応答の質を劣化させているかです。
この問題を扱った研究記事は、次の声明とともに自信に満ちた姿勢を打ち出していました。
GPT-5.4 の公開後、3 月に「Nerdy」パーソナリティを廃止しました。学習では、ゴブリンに親和的な報酬信号を取り除き、生き物の単語を含む学習データをフィルタリングして、ゴブリンが過剰に現れたり不適切な文脈で登場したりしにくくしました。残念ながら、GPT-5.5 はゴブリンの根本原因を突き止める前に学習を開始していました。Codex で GPT-5.5 のテストを始めたとき、OpenAI の社員はすぐにゴブリンへの奇妙な親和性に気づき、緩和のための developer プロンプトの指示を追加しました。何といっても、Codex はかなりオタクなのです。
なんとも気まぐれな話です！ OpenAI は二段構えでこの問題に対処しました。ゴブリン、グレムリン、そしてアライグマのような神話上の生き物への言及を戒める、非常に声高なルールをシステムプロンプトに追加したのです。そして、今後はそれらの用語を学習データからフィルタリングすることにしました。そこが肝心な点です。今後は、です。
私がそもそもこの記事を書いている理由は、何年も ChatGPT を使ってきて、文字どおりすべての会話にゴブリンが紛れ込んでくることに、本気でうんざりしているからです。今月、自分の ChatGPT の会話を見直したところ、直近の 25 件の会話のうち 20 件に「ゴブリン」という単語が少なくとも 1 回含まれており、長さによっては 5 回に達することもありました。正直、ぎょっとします。ガザの情勢について尋ねていても、SpaceX 株の空売りについて話していても、Excel の数式の書き方を聞いていても、ほぼ確実に「お金を数える小ぎれいな小さなゴブリン」の話を聞かされるのです。
神話上の生き物への言及を含む会話をフィルタリングするのは簡単ですが、シニシズム、無礼さ、平板な感情を直すのはそれほど現実的ではありません。これは OpenAI のエンジニアたちが間違いなく分かっていることです。
GPT-5.6 か GPT-6（次に来るのがどちらであれ）がリリースされるまで、OpenAI にこれを修正する能力があるかどうかは確実には分かりません。彼らは、神話上の生き物を除いた学習データでベースモデルを満たせば、先に進めるだけ問題が薄まることを期待しています。
あの GPT-4o の人格の質を取り戻すには、それでは足りないと私は思います。
最も明白な解決策は、汚染された学習データが持ち込まれる前のチェックポイントに戻り、新しいフィルターと監査を適用して学習し直すことでしょう。しかし先に述べたとおり、それは彼らを 9 か月後退させ、莫大な計算コストを伴います。
とはいえ、OpenAI をまだ見限ることはできません。シリコンバレーの巨大企業であり、本物の才能が働いています。風がどちらに吹いているかは、次のリリースで確実に分かるでしょう。それまでの間、この出来事は、AI モデルを作ろうとするすべてのソフトウェアエンジニアと企業にとって決定的な教訓となります。AI モデルを台無しにするのは、大規模に使われるシステムプロンプトを更新するのと同じくらい簡単なのです。
新しいタブで開きます