AIモデルが“政府命令”で出荷停止。Anthropic、Fable 5とMythos 5を世界中で停止
米政府が国家安全保障を理由に輸出管理の命令を出し、AnthropicはFable 5とMythos 5を世界中の全ユーザー向けに停止。理由は「脱獄手口の発見」だが——「それ、地味すぎでは？」を4人が掘り下げる。
みずき：AIモデルが2つ、昨日いきなり止められた。…しかも、国の命令で。
ひかり：国の命令ーー！？AIって、政府に“出荷停止”させられちゃうの！？何それこわい、気になるっ！
ことね：正確には“出荷停止”ね。AnthropicっていうAI会社が、6月9日に出したばかりの新モデル「Fable 5」と「Mythos 5」を、世界中の全ユーザー向けに止めたの。アメリカ政府が“国家安全保障”を理由に輸出管理の命令を出して、それに従う形で。
ひかり：国家安全保障って…AI、いったい何をやらかしたの！？
ことね：政府いわく「Fable 5の“脱獄(ジェイルブレイク)”の手口を見つけた」。AIにかけてある安全ルールを、外から言葉でするっとすり抜けさせる技のことね。
ひなた：だ、脱獄っ…！？AIさん、牢屋を抜け出しちゃったのです！？だ、誰かおにぎり持って追いかけるのです〜！
ひかり：あはは、ひなた、逃げ出した子はいないってば(笑)。ねえことね先輩、その“脱獄”って、そんなに大ごとなの？
ことね：そこが微妙なの。実演された手口って「特定のコードを読ませて、ソフトの欠陥を直させる」みたいな、わりと地味で限定的なものだったみたい。Anthropic側は“ほかのAIでも同じことが言える程度の、ごく狭い話”だって反論してる。
みずき：バグを直して、って頼んだら直しちゃう。…それ、ふつうに便利機能では？なのにご褒美が全世界・出荷停止。で、それ誰得なの。
ことね：Anthropicの言い分もまさにそこ。「何億人も使ってる商用AIを、わずかな脱獄の可能性だけで引っ込めるべきじゃない。これを業界ぜんぶに当てはめたら、新しいAIは二度と出せなくなる」って。命令には従うけど納得はしてない、透明で公正な手続きでやってほしい——と言いつつ、再開に向けて動いてるそう。止まったのはこの2モデルだけで、ほかのは今までどおり使えるわ。
ひなた：ふぁ〜、よかったのです。逃げたんじゃなくて、“しばらくお外に出ちゃめっ”って言われただけ…早くまた、みんなと遊べるといいのですね。
まとめ：今日の急所：便利さと安全は、たいてい同じコインの裏表。“地味な便利機能”が国家安全保障案件になる時代——AIは、賢くなるほど自由に出歩けないお年頃みたい。みずき曰く「世知辛い身分だね」。