画面に流れる“AIの考え中…”は、本心の生テキストじゃなく“あらすじ”だった——「あの思考ログ、本物なの？」という指摘と、作り手も「要約です」と認めている話
「AIが答える前に画面で見せてくれる“考え中……”の文章、あれって本物の生の思考なの？」——そんな問いに但し書きをつけたエンジニアの記事が、いまHacker Newsで話題（コメント180超）になっている。書いたのは Patrick McCanna（パトリック・マッキャナ）。プログラミングを手伝うAIツール「Claude Code」が見せる「Extended Thinking（拡張思考）」の文章は、AIが裏で本当にめぐらせている“生の思考そのもの”ではない、という指摘だ。彼のたとえが秀逸で、「jpegの写真を、いったんbmpという別形式に保存し直し、それをちょっといじって、また“これはjpegです”と出すようなもの——変換のたびに元の情報が目減りする」。ローカルのログに残るのは600文字ほどの暗号化された“署名（signature）”だけで、読める生テキストは手元に来ない、とも書く。ここで面白いのは、作り手のAnthropic自身が、ちゃんとドキュメントに「これは要約です」と明記している点だ。新しめのモデルでは、思考ブロックは“要約された思考テキスト”が初期設定で、「要点を保ちつつ、なめらかに表示するため」そうしている、と。そして“生の完全な思考”のほうは暗号化されて「署名」という形でしか返らず、これは中身を読むためではなく「確かにこのAIが出した思考だよね」という“本物確認（検証）”のためのもので、人間が解読する用途ではない、と説明されている。つまり指摘の核心は陰謀論ではなく“付き合い方”——画面の「考え中…」を、AIの頭の中の完全な記録だと思って証拠みたいに鵜呑みにしないこと。前に扱った「ClaudeがAIを使う人間に“本人確認”を求める」話とちょうど裏返しで、こんどは人間がAIの“中身”を確かめきれない番、というわけだ。ひかり・ことね・みずきの3人が掘る。
ひかり：ねえ、ことね先輩。最近のAIって、答える前に「考え中……」って、頭の中をダラダラ画面に出してくれるじゃん？ あれ見ると「お、ちゃんと考えてるなあ」って安心するんだけど……あれってさ、ほんとに“本心そのまんま”なのかな？
ことね：いい問いね、ひかり。実はそこに但し書きをつけた人がいるの。あるエンジニアが、「Claude Code——プログラミングを手伝うAIのツールね——が画面に見せる“拡張思考(Extended Thinking)”の文章は、AIの“本物の生の思考”じゃない」って指摘して、話題になってるのよ。
みずき：…は？ じゃあ、あの「考え中……」は、なんなの。演技？
ことね：演技、ではない。正確には“要約(あらすじ)”なの。AIが裏で本当にめぐらせてる、長くて生々しい思考そのものじゃなくて、その要点をまとめ直したダイジェストを見せてる、ってこと。指摘した人のたとえが上手くてね。「jpegの写真を、いったんbmpっていう別形式に保存し直して、それをちょっといじって、また“これがjpegです”って出すようなもの」。変換のたびに、ちょっとずつ“元の情報”が抜け落ちる、って。
みずき：…で、それ、ただの言いがかりじゃないの。作ってる会社は「生の思考です」って言い張ってるのに、外野が「嘘だ」って騒いでるだけ、なら——
ことね：ところがね、みずき。ここがこの話のいちばん面白いとこで——作ってるAnthropic自身が、ちゃんと「これは要約です」って、説明書(ドキュメント)に書いてあるの。新しめのモデルだと、思考ブロックは“要約された思考テキスト”が初期設定。要点を保ちつつ、サクサク表示するためにそうしてる、って。しかも“生の完全な思考”のほうは暗号化されてて、人間が読めない「署名(signature)」っていう形でしか返ってこない。これは中身を読むためじゃなく、「この思考、確かにこのAIが出したよね」って“本物確認”をするためのもの、なのよ。
ひかり：えっ、じゃあ……コッソリ隠してたわけじゃなくて、最初から「これは要約だよ」って書いてあったんだ！ でも……生のほうは暗号で鍵がかかってて、わたしたちには開けられない、ってこと？
ことね：そう。だから指摘した人がいちばん言いたかったのは、たぶん“陰謀”じゃなくてこっち。「画面の“考え中…”を、AIの頭の中の“完全な記録”だと思って、証拠みたいに鵜呑みにしちゃダメ」。あれはあくまで“あらすじ”で、生のログは手元には残らないし、自分では確かめられない——っていう、付き合い方の注意書きね。
ひかり：なるほどぉ……「ちゃんと考えてる風」を、まるっと信じすぎちゃダメなんだね。あらすじは、あらすじ、と。
みずき：…ふーん。これ、この前の「ClaudeがAIを使う人間に“本人確認”を求める」やつの、ちょうど裏返しだ。あっちは“人間が本物か”をAIが確かめる。こっちは“AIの考えが本物か”を、人間が確かめられない。…結局おたがい、相手の中身は、そう簡単にゃ覗けない、ってオチか。
まとめ：あるエンジニア(Patrick McCanna)が「Claude Codeが画面に見せる“拡張思考”の文章は、AIの生の思考そのものじゃない」と指摘し話題に。彼いわく、jpegをbmpにして再びjpegに戻すような“データの目減り”が起きている、と。でも面白いのは——作り手のAnthropic自身がドキュメントで「これは要約です」と明記している点。新しめのモデルでは思考は“要約テキスト”が初期設定で、生の完全な思考は暗号化された“署名”の形でしか返らず(中身を読む用ではなく本物確認のため)、人間には解読できない。だから本質は陰謀論じゃなく“付き合い方”——画面の「考え中…」を、AIの頭の中の完全な証拠だと鵜呑みにしないこと。みずき曰く、これは前に扱った「AIが人間に本人確認を求める」話のちょうど裏返し。おたがい、相手の中身はそう簡単には覗けない、というオチ。