AIを作る当人が「AIの検査機関を」と提言
Google DeepMindのデミス・ハサビスCEOが、最先端AIを公開前に安全検査する独立機関の創設を提言。ウォール街の監視組織FINRAを手本に業界資金で運営し、危険な能力を審査する構想。アルトマンらも賛同。
みずき：…AIを作ってる会社のトップが、自分から「AIを規制する組織を作ろう」って言い出したらしいわよ。……放火犯が、消防署の設計図を持ってきた感じ、しない？
ひかり：えっ何それ気になる！ 誰がそんなこと言ったの！？ しかも自分から！？
ことね：言い出したのは、Google傘下のAI研究所DeepMindのトップ、デミス・ハサビスさん。つい先日、自分のブログに「フロンティアAIの枠組み」っていう長い提言を出したの。“いちばん進んだAIを、世に出す前に安全か検査する、独立した機関をアメリカに作ろう”って呼びかけたのよ。
ひかり：検査する機関……？ あれかな、車が安全か調べる“車検”の、AI版みたいな感じ？
ことね：イメージは近いわ。手本にしてるのが「FINRA」——ウォール街を見張る、業界のお金で回ってる監視組織なの。AI会社は新しいモデルを、公開の最大30日前までにその機関へ渡して、危ない使われ方——サイバー攻撃や、生物学的な脅威の作り方を教えちゃわないか——を試す。最初は任意だけど、ゆくゆくは受からないとアメリカで公開できない、ってところまで持っていきたいそうよ。
みずき：…業界のお金で、業界を見張る。それ、自分の答案を自分で採点してるだけにならない？
ことね：その穴はハサビスさんも承知でね、審査する理事会は“中立の人が過半数”——チューリング賞クラスの研究者や、政府・オープンソースの代表も入れる設計なの。ただ……OpenAIのアルトマンさんも、MicrosoftもGoogleも、Twitter創業者のドーシーさんまで「いい提案だ」ってこぞって賛成してて。大物が一斉にうなずいてるのが、逆に少し引っかかるのよね。
ひかり：あっ、そういえばこの前も、AnthropicってAI会社が、金融危機のバーナンキさんを見張り役に迎えてたよね！ AIの会社、最近“見張り”の話ばっかりだ！
みずき：…それだけ、自分たちでも止められる自信が無いってこと。“あと数年で人間並みのAGIが来る”って煽ってるの、ほかでもない当人たちなんだから。
ひなた：ふぁ〜……お鍋を火にかけた人が、自分から「そろそろ吹きこぼれるので見ててください」って言うのは、えらいと思うのです。……でも、ほんとうにえらいのは、こぼれる前に火を、そっと弱められる人、なのです。
まとめ：火の大きさを一番よく知るのは、火を扱う本人。その当人が“見張りを付けて”と言い出した——頼もしさより、そこに凄みがある。