OpenAI自前チップ、電力あたりでNVIDIA超え
OpenAIがBroadcomと作った推論用チップ「Jalapeño」の実機成績をSemiAnalysisが公開。電力1ワットあたりの性能で、ほぼどの条件でもNVIDIAのBlackwellを上回ったという。
ひかり：ちょっと待ってちょっと待って! NVIDIAって、もう無敵じゃなかったのっ!?
ことね：まあ落ち着いて。無敵ではなくなった、とまでは誰も書いていないわ。……6月に話したの覚えてる? OpenAIが自分たち専用のチップを作った、という話。名前が「ハラペーニョ」だったやつ。あれの実物の成績が、昨日やっと外に出たのよ。半導体を専門に分析しているSemiAnalysisというところがまとめたの。
ひかり：あー! ひなたが食べ物だと思って身を乗り出したやつだ! ことね先輩、で、成績どうだったのー?
ことね：いちばん大事な物差しは「電気1ワットあたり、どれだけ仕事をしたか」ね。これでほぼどの条件でも、NVIDIAのBlackwell——いま世界じゅうが取り合っている、あのチップよ——を上回ったそうなの。消費電力そのものも700ワット。NVIDIAの次の世代は同じくらいの大きさで900から1150ワットだから、そもそも食べる電気の量が違うのよ。
みずき：…で、その数字、誰が測ったの。
ことね：……いちばん痛いところを突くのね。正確には、数字はOpenAIが出したもので、SemiAnalysisが自分たちの環境でも一部は確かめた、という書き方よ。しかも試したのは、入力8000・出力1000くらいの一往復だけ。AIエージェントが道具を何十回も呼びながら延々と働く、あの重たい使い方はまだ試せていないと、書いた本人たちが断っているの。
ひかり：えー……じゃあ「たぶん強い」くらいなんだ。ちょっと拍子抜けだよっ。
ことね：それが、ひとつだけ桁の違う数字があるの。ひとりで独占して使ったときの返事の速さね。DeepSeek R1というモデルで、1人あたり毎秒700トークン——日本語ならだいたい700文字ぶん。同じ条件のGB200と比べて50倍以上よ。しかもJalapeñoは、投機的デコーディングという近道をまだ使っていないの。「たぶんこう続く」と先に当てずっぽうで書いて、当たったぶんだけ得をする裏ワザね。使っていない側が、使っている側に勝っているのよ。
ひかり：うわっ、ハラペーニョちゃんと辛口じゃんっ! 名前負けしてないよ!
みずき：…その名前の話していい? チップを載せる棚が「カツ」。挿す板が「ビンダルー」。つなぐスイッチが「チャナ」。棚ひとつに128個で、電気は合わせて160キロワット。……もう献立表じゃん。
まとめ：NVIDIAに勝ったかどうかより先に気になることがある。世界の計算をのせる棚が、カツとビンダルーで埋まっている。