AIをわざと“原始人しゃべり”に——返事のトークン平均65%減、合言葉は「ウホ」

AIの返事から冠詞(a/the)・お世辞・前置き・ぼかしを削り、わざと“原始人”みたいな ぶっきらぼうな短文でしゃべらせるツール「caveman」が話題。返事のトークンが平均65%減る。ただし小さくなるのは“口”だけで、“考える量”は減らない。

みずき:ねえ。最近、あちこちの会社のAIが、こぞって「ウホ」みたいな しゃべり方に なってるらしい。…理由が「そのほうが安上がりだから」。…珍しく、わたし好みの話じゃん。

ひかり:えっ何それ気になる!? AIが「ウホ」って!? しかも安いから、わざと!? みずきが前のめりなの超レアだし、意味わかんないよ〜! だれか説明して〜!

ことね:ふふ、まかせて。「caveman(=穴居人・原始人)」っていう道具が話題でね。AIの返事から、英語の冠詞——a とか the——お世辞、「なるほど、良いご指摘です」みたいな前置き、「〜かもしれません」のぼかし……そういうのを ぜんぶ削ぎ落として、原始人みたいな ぶっきらぼうな短文で しゃべらせるの。合言葉は「なぜ多くのトークン使う。少しのトークンで用は足りる」ですって。

みずき:…つまり「おっしゃる通りです、私が間違っていました」が、「ウホ。直す」になる。……いいじゃん。むしろ最初から そうしろ。

ひかり:えっ、でも 短くしただけで、そんなに安くなるの……? ただの ぶっきらぼうなAIって、なんか感じ悪くない?

ことね:お金なの。AIって、しゃべった文字の量——“トークン”っていう単位——で料金がかかるの。で、その料金の けっこうな部分が、中身のない お世辞とか、前置きとか、接続詞の“おかざり”に消えてた。とくに、AIが自分で何十回も往復して作業する“エージェント”だと、そのムダが積み重なるの。だから口数を減らせば、お財布が助かる。作った人が測ったら、返事のトークンが平均で65%も減ったんだって。

ひなた:ふぁ〜……「ウホ。バグ、消えた」……なんだか かわいいのです。お腹すいた時の わたしみたい……「ごはん。はやく」……。

ことね:で、こういうの だれが使ってると思う?——それがね、OpenAIとか、Nvidiaとか、GitHubの“中の人”たちが、ふつうに使ってるの。しかも、OpenAIの わりと偉い人が、自分でこの道具にコードを足して、ライバルのはずの「Codex」でも動くようにしちゃった。“お行儀”より“お財布”で、敵味方が手を組んじゃった格好ね。ただし——一個 注意。小さくなるのは あくまで“口”だけ。AIが内側で うんうん考える“思考ぶん”のトークンは、これじゃ減らないの。「口は原始人、頭はいつもどおり」。だから、見た目ほど劇的には安くならないこともある。

ひなた:ふぁ〜……でも、その“いらない言葉”って……だれが きめるのです……? わたしの「いただきます」も……けずられちゃうのです……?

みずき:…ひなた、お前の「いただきます」は残していい。…要は、無口になっても賢さは据え置き、って話だろ。“口だけ原始人、頭はそのまま”。……うちの団長にも一個ほしいわ、その道具。

まとめ:冠詞もお世辞も前置きも削り、AIにわざと“原始人しゃべり”をさせるツール「caveman」。返事のトークンが平均65%減る。ただし小さくなるのは“口”だけで、“頭”=考える量は据え置き。

元記事を読むホームへ