トークンの費用を減らす話は、ふつう「出力を短くする」から始まる。ところが実測の内訳を開くと、エージェントが使うトークンの96〜99%は出力でも新しい入力でもなく、同じ文脈の読み直しだった。削るべき場所はそこにある。
エヌビディア、南洋理工大学、マサチューセッツ工科大学の14人が2026年9月17日に arXiv へ投稿した論文 SoL-Pi (arXiv:2609.20519、人工知能の区分、本文15ページ・図8点・表4点) は、コーディングのエージェントの実行基盤（ハーネス）を自動で探索し、性能をほぼ保ったまま費用を半分にする4つの仕組みを取り出した。51問の EdgeBench で、API費用は Codex 比50.0%、Claude Code 比54.3%下がっている。本稿の数値の取得日は2026年9月20日である。
トークン量の96〜99%は、同じ文脈の読み直しだった
論文の表1は、51問を解いたときのトークン量を入力・キャッシュの読み出し・キャッシュの書き込み・出力の4つに分けて載せている。キャッシュとは、毎回の呼び出しで同じ内容が冒頭に並ぶとき、API事業者の側がそれを保持しておき、2回目以降は割安で読ませる仕組みを指す。
この内訳を足し合わせると、公表の合計と一致する。Codex は入力0.0053、読み出し3.0287、書き込み0.0145、出力0.0052で、合計は3.0537である。表1に並ぶ8つの実行基盤すべてで同じ計算が閉じた。実行基盤とは、モデルと環境のやり取りを仲立ちし、ツールの使用、文脈の管理、検証、委任、復旧、終了を扱う層をいう。
内訳が閉じたことで、構成比が意味を持つ。Codex のトークン量3.0537のうち3.0287、つまり99.2%がキャッシュの読み出しである。Pi は2.1538のうち2.1326で99.0%、SoL-Pi の効率重視の構成でも1.0990のうち1.0605で96.5%を占める。出力は Codex で0.0052、全体の0.2%にすぎない。
長い作業を回すエージェントは、1回の呼び出しごとに、それまでの会話とツールの結果をすべて添えて送り直す。呼び出しが100回あれば、同じ内容が100回流れる。トークンの請求書は、新しく考えた分ではなく、覚えておくために繰り返した分で埋まっている。この構造は本誌がKVキャッシュの解説記事で扱った推論側の事情と表裏の関係にある。
4つの仕組みは、どれも送り直すトークンを削っている
選抜を通った仕組みは4つで、操作の実行、文脈の圧縮、大きな出力の扱い、読み取りの委任にまたがる。
操作の統合 (Action Fusion) は、続けて行う操作をまとめる。基準の手順では、ファイルを編集して書き込む、結果を読んで次に実行するコマンドを選ぶ、その出力を受け取る、で3回のAPI呼び出しを使う。操作の統合は編集に続けて実行するコマンドを同時に指定し、変更後のファイルとコマンドの出力をまとめて受け取ることで2回に減らす。1回分の節約である。
実行中の履歴圧縮 (Online Context Compact) は、途中で履歴をまとめて縮める。基準側は履歴を全部残すため、文脈の長さは1.0倍から1.3倍、1.6倍、1.9倍と伸びていく。この仕組みは小さな課題が完了した時点で費用の判定を置き、見込まれる入力の節約が、プロンプトのキャッシュを書き直す追加費用を上回るときだけ圧縮する。判定にはキャッシュの書き込みと読み出しの価格比を使う。圧縮後の文脈は0.55倍、0.75倍まで縮む。縮めること自体に費用がかかるという事実を、判定の式に入れている点が要である。
大きな出力の退避 (ObservationPack) は、かさばるツールの出力を別に置く。10キロバイトを超えるツールの結果は、基準側では毎回の呼び出しに全文が入り、3回目以降は入力の費用が重くなる。この仕組みは元の結果を保管したうえで、次の2回の呼び出しまでは全文を送り、それ以降は変わらない参照用のIDと元の大きさ、1キロバイトの抜粋に置き換える。必要になれば元の断片を正確に呼び戻せる。
証拠を残す要約 (Evidence-Preserving Reducer) は、長いログの読み取りを別のモデルに任せる。あらかじめ決めたコマンドの一覧から出る4キロバイト以上のビルドやテストのログを対象に、元の出力をそのまま保管したうえで、GPT-5.6 Luna という低費用のモデルに証拠を抜き出させる。出てきた要約は自動検査にかけられ、形式と元データのハッシュ値、終了コード、引用が元と一致するか、要約が元より小さいかの4点を毎回同じ手順で確かめる。通れば検証を通った要約を、通らなければ元の出力を、本体のモデルへ渡す。補助のモデルは証拠の抜き出しだけを担い、診断と次の操作の選択は本体のエージェントが持ち続ける。
4つはやり方が違うが、削っている対象は同じである。呼び出しのたびに送り直されるトークンの量を、呼び出しをまとめる、履歴を縮める、大きな出力を参照用のIDに置き換える、ログを検証つきの要約に縮める、という4方向から減らしている。
スコアを9割超保ったまま、費用は Codex 比50.0%・Claude Code 比54.3%下がった
評価は EdgeBench で行われた。134問のうち公開されている51問を使い、確定した候補の受け入れ判定に11問、最終の未知の課題での評価に40問を割り当てている。11と40を足すと51で、公開分をちょうど二分している。
探索に使った GPT-5.6 Sol では、Pi のトークン2.1538・費用1,339ドル・スコア44.833に対し、SoL-Pi の効率重視はトークン1.0990・費用894ドル・スコア42.003だった。トークンは49.0%減、費用は33.2%減、スコアは Pi の93.7%を保っている。手を加えていない Codex は費用1,787ドル・スコア34.738なので、SoL-Pi は費用を50.0%下げながらスコアを7.3ポイント上回った。
探索に使わなかった Opus 5 でも同じ向きに動いた。Pi のトークン2.3697・費用1,741ドル・スコア44.756に対し、SoL-Pi の効率重視はトークン1.3101・費用1,158ドル・スコア42.224である。トークン44.7%減、費用33.5%減、スコアは94.3%。手を加えていない Claude Code は費用2,535ドル・スコア43.689で、SoL-Pi は費用を54.3%下げた。開発に使ったモデルの外へ効果が移ったという主張は、この2つの表で支えられている。
仕組みを1つずつ足した表4は、効き方が動かすモデルで変わることを示す。GPT-5.6 Sol では大きな出力の退避だけを足した構成がスコア47.208で最も高く、この構成がそのまま SoL-Pi の性能重視になる。Opus 5 では操作の統合だけを足した構成がスコア50.482で最も高く、こちらが性能重視になる。4つをそろえた構成は、単独の構成より大きなトークン効率の改善を示した。
性能重視の構成は、費用を下げる方向とは別の答えを出している。GPT-5.6 Sol ではスコアが44.8から47.2へ5.3%上がり、トークンは6.1%減り、効率は9.8%改善した。同じ4つの仕組みから、費用を削る組み方とスコアを上げる組み方の両方が取り出せる。
効率の列と1時間あたりの節約額は、どちらも読者が再現できる
表には「効率」という列があり、値が小さいほど良いとされる。論文の第3節にこの列の定義は書かれていない。費用とスコアと問題数から割り戻すと、式が復元できる。
Codex の費用1,787ドルをスコア34.738で割り、さらに51問で割ると1.0087になる。公表値は1.0086である。Pi は1,339を44.833と51で割って0.5856、公表値0.5855。SoL-Pi の効率重視は894を42.003と51で割って0.4173、公表値0.4174。Claude Code は2,535を43.689と51で割って1.1377で、公表値と完全に一致する。4行とも小数第4位まで合う。効率の列は「1問あたり・スコア1点あたりのドル」である。
要旨に出てくる1時間あたりの節約額も、同じやり方で前提が取り出せる。要旨は、手を加えていない Codex と Claude Code に対して8.75〜13.50ドル、Pi に対して4.36〜5.71ドルと記すが、どういう時間を前提にした見積もりかは書かれていない。51問での節約額を、この4つの値で割ってみる。Codex との差893ドルを8.75で割ると102.1時間、Claude Code との差1,377ドルを13.50で割ると102.0時間、Pi との差445ドルを4.36で割ると102.1時間、583ドルを5.71で割ると102.1時間になる。4つとも102時間に収束する。
102時間は51問に1問2時間を掛けた値と一致する。論文が別の実験で2時間の作業枠を使っていることと整合する。つまり1時間あたりの節約額は「1問に2時間かける前提で51問を回したときの総額の差を、延べ102時間で割った値」である。この前提を知らずに自社の運用へ当てはめると、1問あたりの所要時間が違うぶんだけ見積もりがずれる。ここは記者の逆算であり、論文が明示した計算ではない。
課題環境535件と改善案152通りを回し、取り分けた評価の結果は探索へ戻さない
4つの仕組みは人が設計したものではない。基準の実行基盤を動かすAIが課題を解き、その実行ログを研究AIが読んで改善案を出す、という繰り返しから出てきた。実行ログに並ぶのはファイルの読み取り、コードの編集、テストの実行、ログの点検である。
探索の規模は、手法の節で改善案の方向152通り、課題環境535件と記されている。課題環境の内訳は公開リポジトリの課題とプルリクエストの対から作った495件と、自動採点の仕組みで作った合成課題40件で、足すと535になる。改善案の方向は文脈、進捗、ツール、委任、プロンプトと方針、改善と評価の6分野にまたがる。序論では、およそ150の方向とおよそ500の課題環境、3,000回を超える実行、60,000回を超えるエージェントと環境のやり取りという丸めた数字で同じ規模を述べている。
課題環境の中身は Python、TypeScript、Go、Rust、C++、Java の6言語に加え、データサイエンス、Webアプリ、機械学習のパイプライン、コマンドライン・ツール、インフラ構築のスクリプト、技術文書のサイトの計12種にわたる。案の実装には Ralph Loop という繰り返しの手順を使い、実装役が完了条件を満たすまで直したあと、独立した確認役が評価の前に検査する。検査に落ちれば修正へ戻る。事前には Oracle Analysis で既存の開発の実行ログを調べ、基準の実行基盤で避けられる無駄を特定している。
選抜は2段階の判定で行う。すべての能力の指標が事前に宣言した許容幅に収まること、かつ宣言した効率の指標を少なくとも1つ改善することが条件で、どの指標でも他に負けない候補だけが残る。許容幅の具体的な数値は論文に書かれていない。
この設計で最も効いているのは、取り分けておいた評価の扱いである。論文は、取り分けた評価の結果を自動研究ループへ戻さず、検証に落ちた候補は破棄して追加の最適化のきっかけにしないと明記している。先行研究では、進化させた実行基盤が探索に使った課題へ合わせ込みすぎ、未知の課題ではわずかな改善しか出ないという報告があり、この分離はそれへの対処である。Opus 5 で同じ向きの結果が出たことは、この手続きの帰結として読める。エージェントの層ごとに標準の有無と乗り換えの費用が違うという整理は、本誌のAIエージェントの9層にまとめた。
費用が下がった代わりに、Terminal-Bench 4 では解けた数が3問減った
削減には代償がある。CPUだけで解く63問の Terminal-Bench 4 では、Codex と Pi がともに18問を解いたのに対し、SoL-Pi は15問だった。総額は Pi の286.45ドルから211.12ドルへ26.3%減り、解けた1問あたりの費用も15.91ドルから14.07ドルへ11.6%下がっている。1問あたりの費用が下がったのは事実だが、それは解けた数が3問減ったのと同時に起きている。
IMO 2026 の6問では、Codex が5問、Pi と SoL-Pi が3問を正解した。総額は Pi の75.95ドルに対し SoL-Pi が62.69ドル、1問あたりは25.32ドルに対し20.90ドルである。同じ正解数をより安く達成したが、Codex の5問には届いていない。
多数のエージェントを同時に動かす構成では削減がそのまま効く。2時間のGPU向け計算処理（カーネル）の最適化で、単体の Codex エージェントの基準が147,734サイクルだったのに対し、Codex の取りまとめ役と Pi の作業役20体の組み合わせは1,366サイクルを82.12ドルで、SoL-Pi の作業役20体の組み合わせは1,127サイクルを60.11ドルで達成した。API費用は26.8%減である。並列で回すほど、送り直しの削減は効く。エージェントを群れで動かす手順は本誌のエージェントの群れの手引きで扱った。
論文が挙げる今後の方向は4つで、課題環境と研究アイデアの幅を広げる「実行基盤の事前学習」、複数の大規模言語モデルから同時に学ぶ「複数のモデルでの学習」、SoL-Pi 自身を次の研究サイクルに使う「再帰的な効率改善」、探索の広さと深さを増やしたときの効き方を扱う「探索の範囲と費用」である。
エージェントを動かす費用は、モデルの単価が下がるのを待つ変数ではない。トークン量の96〜99%を占める読み直しを、呼び出しのまとめ方と大きな出力の持ち方で削れば、スコアを9割超保ったまま半分になる。費用の主導権は、モデルを売る側ではなく、実行基盤を書く側にある。
投資家向けの個別銘柄レポートと技術デューデリジェンスのご相談はこちら。
💬 この記事へのコメント 0
まだコメントはありません
最初のコメントを投稿してみましょう！⚠️ エラーが発生しました