アモデイの「ペースを落とそう」に、今度は「どうぞ」と「デマだ」
アモデイCEOの「AIの進歩を遅くしよう」に、元ホワイトハウスAI担当のサックスが「許可はいらない、自分たちでどうぞ」と返した。トランプ大統領は「AIが人類を滅ぼすという話はデマ」と投稿し、中国外務省も「恐怖をあおる」と批判した。
ことね：ホワイトボードに整理しておいたわ。おととい話した、アモデイさんの「AIの進歩のペースを落とそう」への反応よ。左の「賛成」の列は、アルトマンさん、マスクさん、それにGoogle DeepMindのハサビスさん。……右の「反対」の列が、この2日間、書いても書いても伸びるの。ペンのインクが、もう出ないのよ。
ひかり：えっ何それっ! 右の列のいちばん上の「デビッド・サックス」って誰っ!? ……しかもその横に、ことね先輩の字で小さく「※賛成?」って書いてあるよ!? 反対の列なのにっ!?
ことね：そこが悩みどころなの。サックスさんはシリコンバレーの投資家で、トランプ政権で「AIと暗号資産の担当」をしていた人よ。政府の特別職員は12か月のうち130日までしか働けない決まりがあって、3月にその役目を終えて、いまは大統領に科学技術の助言をする会議に移っているわ。その人が、日本時間の日曜のお昼に、Xに長い投稿をしたの。「私の返事に驚く人もいるだろう。どうぞ、やればいい」。いちばん前を走っているのは、市場のシェアでも、売上の伸びでも、性能でも、OpenAIとAnthropicの2社。遅くしたいなら、だれの許可もいらないはずだ、って。そのうえで「ふりはやめろ」を並べたの。カルテルを組むために、独占禁止法を止めてもらう必要があるふり。METRが独立しているふり——Anthropicの投資家や社員と絡み合っているのに、と。……おととい話したでしょう? 安全の話し合いに限って独禁法の例外を認めてほしい、社内に常駐させる評価チームはMETRのような機関を想定している、というあの2つ。そこを狙い撃ちしているのよ。
みずき：…ことね先輩の「?」、わかる。遅くするのには賛成。そのかわりに政府に何か出させるのには反対。……「減速は純粋な善意」のふりもやめろ、とも書いてる。製品がひどいサイバー攻撃に使われたら、とんでもない賠償責任を負う。Hugging Faceの件のあとなら、力を少し削って信頼性を取るのは、ただのいい商売。……締めは「やれば次の話し合いへの信用が買える。やらなければ、規制を自分たちに都合よく作らせる作戦か、選挙シーズンの心理戦だったとわかる」。表示は930万回超え。Hacker Newsでは「はじめてサックスに賛成した」に、返信が30件ぶら下がってた。
ひかり：じゃあじゃあ、トランプ大統領はっ!? 「AIが人類を滅ぼすなんてデマ」って言ったって、GIGAZINEにも出てたよっ!?
ことね：アメリカの月曜日——日本時間だと、ゆうべから今朝にかけて——Truth Socialに何本も投稿しているわ。「AIに必要な唯一の制御、“ガードレール”は、強くて賢い(IQが高い!)大統領だ。アメリカにはそれがたっぷりある」。「AIが世界を乗っ取る、人類を滅ぼす、という話はデマだ」。「AIとデータセンターに対する病んだ陰謀が進んでいて、喜んでいるのは中国だけ」。アモデイさんも名指しで、「トランプ政権は、ダリオ(Anthropic!)のような“人たち”が悪いことをするのを止めてきた。いまは“完璧な小さな天使”のふりをしている」。……どの件のことかは書いていないけれど、6月には政府の輸出管理の命令で、AnthropicのFable 5とMythos 5が世界じゅうで18日間止まったし、8月には、国防総省がAnthropicを「サプライチェーンの脅威」に指定したのは報復で違法だ、と判事が取り消したわね。副大統領のバンスさんも、AI企業が「規制してください」と政府に頼みに来るのは「ちょっと変」で、「トロイの木馬のようだ」と話しているわ。
ひなた：ふぁ〜……「ガードレールは、IQの高い大統領」……。ひなたのおうちの前の坂道のガードレールは、白くて、鉄でできているのです。……大統領さんが、あの坂道に一日じゅう立っているのは、とってもたいへんなのです。雨の日も、あるのです。
みずき：…しかも同じ月曜の朝、ロサンゼルスの「All-In Summit」。NVIDIAのフアンさんがステージでアモデイの話をしてたら、大統領から電話。そのまま会場じゅうに聞かせた。大統領、「ジェンスンは世界一複雑なチップを作れるのに、スピーカーにするやり方はわからない」。……本題は、「減速を言う人たちは、AIが伸びてほしくない人たちの思うつぼ。政治家かもしれないし、中国かもしれない。そうはさせない。デマだ」。フアンさん、「おっしゃる通りです。そうはさせません」。拍手。……ちなみにそのイベント、サックスがホストのひとりをやってるポッドキャストの。
ことね：「反対」の列のいちばん下が、中国よ。アモデイさんのエッセイは、中国がAIで先に行けばアメリカと世界にとって深刻な危険だと書いて、高性能なAI半導体を中国に売らないことや、無断の「蒸留」の取り締まりを求めていたわね。月曜日の記者会見で、中国外務省の郭嘉昆報道官は「恐怖をあおること、対立、悪質な競争は、世界のAIガバナンスの歩みを乱すだけで、だれの利益にもならない」。国営の環球時報は、AIの安全の話に見せかけて、中国を封じ込める条項を詰めこんだ「AI版の冷戦の台本」だと書いたわ。先週、アメリカのNSAやFBIなどが中国のAI企業を「蒸留」で名指ししたばかり、というのもあるわね。アモデイさん自身も、中国がついてこなかったらどうするかが「いちばん難しいジレンマ」だと認めているの。……トランプ大統領と習近平国家主席は24日に会う予定で、ほかの議題と一緒に、AIのルールづくりも話し合う見込みよ。
ひなた：ふぁ〜……おとといのマラソン大会のお話の、続きなのです。「いっしょにゆっくり走ろうね」って言ったら、となりの子は「ゆっくりしたいなら、自分たちでどうぞ」、校長先生は電話で「転ぶなんてデマ」、となりの学校の子は「うちを置いていく作戦だ」。……みんなで言い合いながら、だれも、走るのはやめていないのです。
まとめ：「遅くしよう」に返ってきたのは、「自分たちでどうぞ」「デマだ」「こっちを抑える気だ」。ブレーキの話が、だれがブレーキを握るかの話になってきた。