AIの費用対効果の最適点：企業はどのようにコストが価値を上回らないようにしながら、AIエージェントをスケールさせるべきか
数千万ドル規模になった「AI費用」
CIOやCAIO（最高AI責任者）が向き合っている問いは、もう「基盤モデルは役に立つ仕事ができるのか」ではありません。問いはこう変わりました。「エージェント型システムは、その仕事を会社全体で、何度でも、安全に、しかも採算が合う形でこなせるのか」。
エージェントの働きを企業の規模で安定して動かすことは、まったく別の問題です。チャットボットは1つの質問に数秒で答えます。一方、企業で使われるエージェントは、いくつもの情報源を横断して調べ、ツールを使い、サブエージェントを動かし、資料やソフトウェアを作り、自分の出力を点検し、失敗すればやり直す。それを数分から数時間にわたって続けます。工程が1つ増えるごとに、AIの計算量（推論）が増え、待ち時間が伸び、失敗する箇所が1つ増えていきます。
この規模になると、経済性の様相は急速に変わります。先日、あるグローバルなシステムインテグレーターからこんな話を聞きました。誰もが名前を知る製造業向けのAIサービス案件で、費用が数百万ドル規模から数千万ドル規模へ膨らんでいる。その増加の多くは、AIの計算量が増えたことによるものだというのです。AIが本番の業務に入った瞬間、この費用は「技術者が見る数字」ではなく「経営を縛る制約」になります。
Gensparkではこの1年、まさにこの制約に正面から向き合ってエンジニアリングを重ねてきました。私たちの結論はシンプルです。
企業は、あらゆるワークフローのあらゆる工程に対してフロンティアモデルの価格を払うべきではない。知能が結果を変えるその一点において、ふさわしい水準の知能に対して払うべきである。
この記事の以降では、私たちがそれをどう実現しているのかを説明します。その背後にある経済性、本番環境で動かしているアーキテクチャ、そしてエージェント型システムがパイロットから日常業務へ移っていくこれからの時代に、すべての企業が必要とすると私たちが考える規律についてです。
知能は安くなった。なのに、なぜ安く感じないのか
知能の単価は、年あたりおよそ10分の1のペースで下がり続けています。より新しく、より安価なモデルが、12か月前にはフロンティアだけができたことを次々と実現しているからです。ではなぜ、AIはもっと手頃になったと感じられないのでしょうか。請求額が、2つの数字の積で決まるからです。
1タスクの費用 ＝ トークン単価 × 1タスクで使うトークン数
前者は10分の1になりました。しかし後者は、それを上回る速さで増えています。チャットボットとの会話で使うトークンは数千でしたが、調べて計画を立ててツールを使い、自分の成果を直していく長時間型のエージェントは数百万トークンを使います。つまり企業は「知能の単価」に多く払っているのではなく、1つの成果を出すために「はるかに多くの量」を買っているのです。
そして本当の分母はもっと厳しいものです。安いモデルは、成功したときに初めて安いと言えます。出力をやり直したり、人が手直ししたり、結局より強いモデルに任せ直したりすれば、実質の費用はすぐに膨らみます。意味のある指標は成功したタスク1件あたりのコストであり、目指すべきはトークンを最小化することではなく、効率フロンティアを動かすこと、つまり水準を落とさずに1ドルあたりより価値ある仕事を生み出すことです。それは、モデルが安くなるのを待っていれば起きることではありません。設計し、作り込む必要があります。その出発点は、多くの企業が判断を誤っているところにあります。いくつのモデルの上に自社を築くべきか、という問いです。
AI戦略を単一モデルに賭けるべき企業は存在しない
企業の仕事は多様です。調査、コーディング、文書生成、ビジュアルデザイン、情報抽出、統合。求められる思考の深さ、許される待ち時間、データの機密度、リスクの性質は、それぞれまったく違います。すべてにおいて最良である単一のモデルは存在せず、すべてに適した単一の価格も存在しません。
モデルを取り巻く状況も同じくらい流動的です。ここ1週間だけを見てみましょう。7月30日、OpenAIはGPT-5.6 Lunaの価格を80%引き下げ、入力100万トークンあたり0.20ドルにしました。その翌日、DeepSeekがV4 Flash 0731を投入します。大幅に強力なモデルが、同じく底値の0.14ドルで提供されました。さらにその数日前には、重みが公開された（オープンウェイトの）Kimi K3が、コーディングにおいて最強のクローズドモデルと肩を並べる水準に、はるかに低い価格で到達していました。3つのプロバイダー、3つの動き、たった1週間です。今日の最良の選択が、来四半期の最良とは限りません。次の金曜日の最良でさえないかもしれません。
こうした状況の中で、単一モデルのアーキテクチャは3つのリスクを同時に集中させます。1つめは経済リスク。価格も使用量の増え方も、1社の判断次第になります。2つめは能力リスク。すべての業務が、そのモデルの強みだけでなく弱みまで引き継ぎます。3つめは運用リスク。可用性、規約変更、ロードマップが、自社の手を離れます。他のどんなベンダーのカテゴリーであっても、このうち1つでもCIOは懸念するはずです。しかしAIは現在、1社にすべてを賭けることが当然のように扱われている唯一の主要支出カテゴリーになっています。
Gensparkは、その正反対の前提に立って作られています。私たちはフロンティア、クローズド、オープンウェイトを含む幅広いモデルのエコシステムに接続しています。そのうえで、ワークフローのどの部分にどのモデル（あるいはモデルの組み合わせ）が最も適しているかを継続的に評価しています。永続的な勝者を予測する必要はありません。フロンティアが動いたら、新しいモデルを実際の仕事に対してテストし、品質とコストの方程式が改善するところに採用していく。次の勝者が現れたとき、ユーザーがすぐにその恩恵を受けられる状態をつくっておくのです。
3つの実行レイヤーと、1つの評価システム
この前提こそが、本当のコストエンジニアリングを可能にします。あらゆるモデルにアクセスでき、それらを自由に組み合わせられるということです。私たちは推論を3つの実行レイヤーで管理しており、それぞれが異なる問いに答えます。
| 階層 | 答える問い | コストを下げる仕組み |
|---|---|---|
| 1 モデルルーティング | このタスクはどのモデルが実行すべきか？ | フロンティアでない仕事にフロンティアの価格を払わない |
| 2 ファインチューニング | より安いモデルを、より強くできるか？ | オープンウェイトモデルを領域の専門家に育てる |
| 3 相談役（アドバイザー）パターン | フロンティアの推論を、フロンティアが必要な瞬間だけに残せるか？ | 結果が変わる場面にだけフロンティア価格を払う |
そしてこの3つを支えるのが4つめの要素、常に動き続ける「評価（評価システム）」です。ルーティングもファインチューニングも相談役の仕組みも、いまや業界全体で手に入るようになりました。競争優位として守れるのは、実際のタスクの挙動から「どの最適化が成果を良くし、どれが気づかないうちに質を落としているか」を見分けられる本番システムです。これについては、各レイヤーの説明のあとで詳しく述べます。
レイヤー1: 自動モデルルーティング
すべてのタスクに最も強力なモデルが必要なわけではありません。
軽量な「振り分け役（ルーター）」が、届いたタスクを種類、コンテキスト長、ツール利用、類似タスク群での過去実績に基づいて評価します。反復的で定義が明確な作業は、より費用対効果の高いモデルへ。複雑な推論が必要な仕事はフロンティアモデルへ回します。
新しいモデルが出れば、その日のうちに評価パイプラインに入り、私たちの実際のタスク分布でベンチマークされ、段階的なロールアウトを経てモデルプールに加わります。同時に、「あとから見れば別のモデルのほうが良かった」タスクの割合（router regret＝振り分けの取りこぼし率）も測っています。振り分け役そのものを信用せず、数字で見張るということです。
ルーティングは最初のリクエストで終わりません。私たちのエージェントは絶えずサブエージェントを起動しますが、どのモデルがそのサブエージェントを駆動するのかは、それ自体が起動時のパラメーターです。複雑な調査タスクでは、メインのエージェントが仕事を焦点の絞られた探索の筋に分割できます。各サブエージェントはより狭く構造化された部分を担うため、品質を犠牲にせずに、より低コストなモデルでも十分こなせることが多いのです。だからファンアウトが採算に合います。メインのループが多数のサブエージェントを並列に起動しても、コストがその倍率では増えないからです。振り分けは入口の受付ではありません。実行グラフのすべてのノードで行われる判断です。
企業にとって、この同じ仕組みはガバナンスのレイヤーを兼ねます。ルーティングのルールには、どのモデルがそのタスクに最適かだけでなく、データの機密性、地域、リスク階層に応じてどのモデルが承認されているかまで書き込めます。
レイヤー2: オープンウェイトモデルのファインチューニング
ルーティングは既存の中から最良のモデルを選びます。ファインチューニングは、特定の仕事のためにより良いモデルを作り出します。これが向くのは、大量で、反復的で、定義が明確なタスクです。出力形式が明確で、品質の基準が明確で、学習に足るデータがある場合です。その条件下では、チューニングしたオープンウェイトモデルが、汎用のフロンティアモデルを、はるかに低い価格とレイテンシで日常的に上回ります。ただしファインチューニングはタダではありません。データを用意し、学習させ、評価し、時間とともに精度がずれていかないか見張り続ける手間がかかります。だから判断の基準は「新しいから」ではなく、「学習にかけた費用を回収できる仕事量が続くか」です。
私たちはファインチューニングを、単発のプロジェクトではなく継続的な実践として扱っています。より強いベースモデルが出れば、最新のものに対して再チューニングし、体験を改善し続けます。2025年10月には、Fireworks AIと協働し、1兆パラメーターのオープンウェイトモデルKimi K2に強化学習によるファインチューニングを適用して、Deep Researchエージェントに用いました。学習後のモデルは、出発点だったクローズドのフロンティアモデルを上回りました。報酬品質は0.76から0.82へ、ツール呼び出しは33%増え、コストは50%低下しました（詳細な数値はこちら）。
［表1: Fireworks上での各モデルの報酬スコアとツール呼び出し数］
この実践はオープンウェイトに限られません。2025年11月には、OpenAIのAgent RFTを用いて、スライドの最終調和レイヤーとして機能する推論モデルを学習させました。このモデルは内容とビジュアルの品質を合わせて判定し、質の低いケースを88%改善しました。OpenAIはのちにこの取り組みをBuild Hourで紹介しています。そして最近では、2026年初頭にKimi K2.5が登場したとき、1ページ単位のスライド執筆向けにチューニングし、フロンティアと比べてはるかに低いコストとレイテンシで、さらに良い結果を得ました。
これらはいずれも、強力なオープンウェイトモデルが着実にリリースされ続けなければ成り立ちません。幸いにも、その流れは加速し続けており、エコシステム全体にとって良いニュースです。オープンウェイトは、あらゆる組織が適切な仕事に適切なモデルを適切なコストで充てることを、ロックインなしに可能にします。私たちが積極的に支持し、維持されるべきだと考えている開放性です。
レイヤー3: アドバイザーパターン
3つめのレイヤーは、通常のエージェント構成を逆転させます。安いモデルが**実行役（executor）として仕事の大半をこなし、計画を立てるとき、失敗から立て直すとき、指示があいまいなときといった要所だけ、強いモデルを相談役（advisor）**として呼ぶのです。とくに長時間タスクでは、大半の工程は機械的な実行です。したがってほぼすべてのトークンが安価なモデルの料率で生成されます。総コストは安価なモデル単体で動かした場合に近づき、品質は高価なモデルですべてを動かした場合に近づきます。行き詰まったときにシニアアーキテクトへ相談するジュニア開発者、という関係です。
このパターンは私たち固有のものではありません。Anthropicは会話全体を自動でアドバイザーに渡すサーバーサイドのアドバイザーツールを提供しています。私たちの実装は異なります。アドバイザーは通常のツールの1つであり、実行側が自ら呼び出しを構成して、どこで行き詰まっているかを明示的な問いへと蒸留します。これにより、プロバイダーを越えた任意の実行モデルと助言モデルの組み合わせに対して、このパターンを開いたまま保てます。制約もあります。アドバイザーはコンテキストの全体を共有せず、実行側が共有すると決めたものしか見えません。私たちはこのトレードオフを受け入れており、後述の評価ループが、それが割に合わなくなった時点を教えてくれます。
すべてを支える「評価」
3つのレイヤーが相乗して働いたとき、何が得られるのか。私たちのスライド生成ワークフローは、調査、内容の構成、ページ執筆、ビジュアルの推論、レンダリング、品質レビューにまたがります。新しい実行基盤のもとで、ルーティング、チューニングされた専門モデル、そしてアドバイザーパターンが協調して働きます。スライド1ページを生成するコストは、従来のアーキテクチャの約5分の1から10分の1に下がりました。社内評価において、品質は同等のままです。
この一文を信じる前に、どのCIOも問うべきことがあります。「品質が静かに崖から落ちていないと、どうして分かるのか？」
もっともな問いであり、本当の土台を突いています。3つのレイヤーにおけるすべての判断は、品質とコストのトレードオフです。このタスクはどのモデルが担うべきか。チューニング済みモデルがフロンティアモデルを置き換えるべきなのはいつか。アドバイザーはいつ介入すべきか。十分な評価がなければ、これらの取引は目隠しのまま行われます。評価があれば、大胆に踏み込めます。評価の深さが、コスト最適化をどこまで安全に進められるかを決めるのです。
Gensparkのプラットフォームは、スライド、シート、ドキュメント、デザイン、コーディングプロジェクトなど、多くの種類の成果物を生み出します。成果物の種類ごとに専用の採点エージェント（grader agent）があり、この採点者は2つの仕事をします。1つめは、エージェントの実行トレース全体を読むことです。最終成果物だけでなく、その背後のプロセスも採点します。適切なツールが呼ばれたか、どれだけ回り道をしたか、トークンがどこに使われたか、ワークフローのどこで遅くなったか。
2つめは、入手できる中で最も正直なシグナル、すなわちユーザーの事後行動を取り込むことです。ユーザーは出力をそのまま採用したか、再生成したか、それとも手で書き直したか。どんな合成ベンチマークも、これには反論できません。もっとも完璧なシグナルではありません。ユーザーは正しさだけでなく好みでも編集するからです。そのため私たちはこれを唯一の正解として扱わず、採点者の評価と並べて重み付けしています。
採点結果は3つのレイヤーすべてに同時に流れ込みます。ルーティングの勝率もここから出ます。ファインチューニングの報酬シグナルもここから来ます。アドバイザーを呼び出す方針も、これに対してチューニングされます。1つのループなのです。あらゆる最適化はアーキテクチャによって提案され、評価によって承認されます。
評価のないコスト最適化は、ただの手抜きです。評価があれば、それはエンジニアリングになります。
トークンの節約から、AIの財務管理（AI FinOps）へ
10年前、クラウド支出は見慣れた弧を描きました。初期の熱狂、暴走する請求額、そしてFinOpsと呼ばれる規律の登場です。それはコストを毎月の驚きから、部門を横断して管理される課題へと変えました。エンタープライズAIは今、その弧の始まりにいます。ただし1つ違いがあります。AIコントロールプレーンが管理すべきなのは、使用量だけではありません。モデルの選択は、品質、データポリシー、ベンダーリスクのすべてに同時に影響します。したがってこの規律は、それらをまとめて統治しなければなりません。
これをAI FinOpsと呼びましょう。
軸となる指標は、先に挙げたもの、すなわち成功したタスク1件あたりのコストです。これをワークフロー単位の品質調整済みコスト、フロンティアモデル以外へ振り分けられた仕事の割合、プロバイダー別の支出集中度、そしてフォールバック・リトライ・人手による修正の発生率とあわせて追跡します。ルーティング、ファインチューニング、アドバイザーモデルは、あくまで技術です。持続する能力は、その上に立つ学習システムです。あらゆる新しいモデルを実際の仕事に対して評価し、効率フロンティアを動かすものを採用し、そうでないものは元に戻し、生まれた節約を検証とユーザー体験に再投資するシステムです。
そのシステムは、モデル市場が動くたびに価値を増していきます。そして7月の最後の1週間が示したとおり、市場が動く頻度は高いのです。
企業にとっての優位性
冒頭の、数千万ドル規模に膨らんだ予算項目に戻りましょう。数百万ドルから数千万ドルへと膨らんでいく案件は、まるで知能とはそういう値段のものだと言うかのように、避けられないことのように聞こえ始めます。そうではありません。それは統治できる項目です。結果を変える瞬間に、ふさわしい知能に対して払う。そしてそのトレードオフを、あらゆるワークフローにわたって継続的に統治する。
これからの数年、能力あるモデルへのアクセスは、誰の差別化要因にもなりません。あらゆる企業が、多くのプロバイダーから、下がり続ける価格で手にすることになります。抜きん出るのは、品質、コントロール、経済性を同時に保ちながら、数千ものワークフローに知能を展開できる企業です。それは調達の判断ではなく、システムとしての能力です。そして、それこそがGensparkで私たちが構築している能力です。
次のフロンティアは、より高性能なモデルではありません。より効率的なシステムです。
Kay Zhu, Genspark 共同創業者兼CTO
