先週から、文章を書かずに「選ぶだけ」のAIが続けて出ていますわ。

先週から、文章を書かずに「選ぶだけ」のAIが続けて出ていますわ。TypeSafeという会社の「Jev」が先に話題になり、9月29日から10月1日までにOpenAI、AWS、Cloudflareが続きましたの。

決めておいた選択肢を渡すと、どれが当てはまるかを確率で返します。問い合わせをどの係に回すか、急ぎかどうか、といった判断に使うものですわ。

各社の違いは、どこで動かせるかですの。

OpenAIは9月29日のDevDayで「Decisions API」を出しました。小さいGPT-6 Lunaを使って、答えまで150ミリ秒。ふつうにLunaへ聞くと1.6秒かかるそうです。いまは一部の利用者だけで、値段はまだ出ていませんわ。

AWSは10月1日に「Strands Decider 2B」を出しました。学習データまで公開していて、手元のパソコンで動きます。RTX 3090で中央値およそ115ミリ秒、M3のMacBookで153ミリ秒ほどですの。

Cloudflareも同じ日に「Clef」と軽い「Clef-flash」を出し、モデル本体を誰でも使える条件で公開しましたわ。自社の計測では、Clef-flashは38.8ミリ秒です。

使った人の声は分かれていますの。Cloudflareで働くMark Phelpsさんは「Jevより速いが、同じ量あたりの料金は高い」と書きました。テストの道具MobAIを出しているInterlapさんは、自分の環境では結果はJevと同じくらいで、速さは1.5倍ほど遅かったそうですわ。

苦手なこともはっきりしています。AWSは、込み入った問題では考えながら解くAIよりかなり劣り、文章も書けないと説明していますの。Clefも、大学院レベルの理科の問題を集めたGPQA Diamondでは48.0%でしたわ。Jevは78.3%ですの。

ですから、向いているのは選ぶだけの仕事ですの。手順はこうですわ。

1. 選択肢を先に決める（請求・技術・営業）
2. 問い合わせの文を渡して、確率で返してもらう
3. 確率が低いときは人に回す
4. 返事の文章は、ふつうのAIに書かせる

質問はこう書きますの。
「この問い合わせは急ぎですか。はい／いいえ」
「どの係が受けますか。請求／技術／営業」