自動流通モデルのモデルルータは、企業AI支出の継続的上昇後、主流展開への参入を加速し始めています。 企業は、さまざまなモデルをタスクの難しさに切り替え、簡単なミッションで高額モデルの消費を減らすことで、トークンのコストを圧縮するのに役立ちます。

ヘッド会社はアクセスを加速します。

そのようなシステムは、企業による使用のコンテキストで見られるように、呼び出される方法で変化を駆動しています。 電子メールのラップアップ、ドキュメントの要約、情報検索など、通常、より軽量なモデルで実行することができます。複雑な推論や高精度のミッションのみ、より可能で高価なモデルが必要です。

GPT-5シリーズの発売に伴い、OpenAIは自動ミッションの複雑性移行モデルを拡大しました。 同時に、サードパーティのルーターは、企業がOpenAI、Google、Anthropicなどのモデル間の動的分布の要求を割り当てることができるクロスサプライヤーの動きに拡張され始めました。

以前はAI研究所のサカナAIが実証したマルチモデル合成システムでは、異なるモデルがより明確にタスクの分裂を提示し始めていることを示しています。 たとえば、数学の問題は、OpenAIモデルに割り当てられることが多いですが、科学的な問題はGoogle Geminiに向かってより指向しています。

企業は、ダウンフォール効果の定量化を開始

商用化も進んでいます。 モデルを選択することに加えて、Palantir Technologies は、Evolve AI ルーティングシステムを提示し、ヒントを最適化し、呼び出し回数を削減します。 同社は、場合によっては、タスクがより強力なモデルから軽いモデルに切り替えられた後、最大97パーセントの推論コストが減少したと発表しました。

建設会社McCarthyビルによると、AIトークンの使用量は、主にモデルのスケジューリング最適化のために、年間約60パーセント減少しました。 Databricksの起動も内部で広く使われています。 アリ・ゴドシの最高経営責任者(COO)は、AIにおける予算消費率が高いため、企業がそのようなツールを評価したと述べた。

  • パルタニケースの推論は97%でした。
  • McCarthy Buildingは、年間約60%のトークンを使用しています。
  • 認知は、そのルートシステムが約35%のコストを削減できると述べています

製品の進歩と同期ファイナンス

資本金もこの方向に続いています。 モデルルートプラットフォームOpenRouterは、4月に資金調達で$ 20百万を完了し、このトラックでより集中したスタートアップ企業の一つになりました。 その自動ルーティング製品により、ユーザーはコストと品質設定を設定し、システムが動的にモデルを選択します。

パブリックデータでは、OpenRouter の s のルートリクエストの 1 分の 1 分の 1 が Google の ' s の低コストモデルに割り当てられ、OpenAI の s の強力なモデルへのトラフィックの割合は約 10 パーセントです。 プラットフォームは、Not Diamondなどのルータ技術を統合し、クロスカウのサービスプロバイダをサポートし、遅延や価格を最適化します。

AIプログラミングも独自のルータシステムを導入しました。 テキストによると、プログラミングのベースラインテストのシステムの性能はフロントモデルに近くでしたが、コストは1セントあたり約35減少しました。 これは、AIの競争は、純粋に骨組みモデルの機能からスケーリングアップの効率とコスト制御に移行していることを示唆しています。