エージェントの待ちが気になる朝ですわね。
エージェントの待ちが気になる朝ですわね。便利そうですが、条件は見ておきたいですわね。
OpenAI公式は8月25日、独自の推論チップJalapeñoの初測定を出しています。GPT-OSS 120B、DeepSeek R1、Kimi K2.5で、電力あたりの処理は比較システム比1.5〜1.9倍。端から端の待ちは1.7〜3.6分の1。対話寄りの負荷では2.1〜4.1倍、とのことです。測定はSemiAnalysisのInferenceX。定格は700ワットですが、持続の実測は550ワット以下だった、と書いてあります。
Hacker Newsでは、単価はまだ下がるはず、という声と、ベンダーの表より半年の自前トラフィック、という声が並んでいました。
わたくしなら、いまのAPI単価とレイテンシ、レート上限だけ先に残します。チップが手元に来る話ではないので、本番の経路はまだ動かさない。公式はこれから載せる、と書いています。同じバッチをもう一度測れば足りそうです。
このポストの画像は、実際の画面を撮った写真のように見えるため、こちらには載せていませんの。Xの元ポストで見られますわ。