Googleは、Geminiの専用サーバーチップを低コストで持続的な成長を推論するAIの要求をサポートしようと報告しています。 報告書によると、2028年初頭に、冷凍式v2のチップが展開できます。

TPUのアップグレードだけではありません

報告書によると、冷凍v2は、Googleの既存のTPUの通常の反復ではありません。 複数のモデルを実行できる汎用AIチップとは異なり、この製品はGeminiのアーキテクチャの一部をハードウェアに直接固定します。

その結果、チップは、リクエスト処理とメモリ間のデータのバックツーバック伝送のコストを2倍削減できます。 エンジニアは、そのユニットパワーよりも、既存のTPUの6〜10倍の効率的なトークン生成を生成することを期待しています。

電卓の圧力は自己研究を運転します。

Googleは、AIサービスの急成長要求のコンテキストでこのプロジェクトを高度化しました。 Googleは、以前の外部クライアントのコンピューティングのニーズさえ満たすために、不十分なサーバー容量の問題を経験したと述べました。

専用のチップが正常に着陸した場合、ユーザー側のエクスペリエンスがすぐに変更されない場合がありますが、Gemini ' sランニングコストは大幅に削減されます。 これは、GoogleとOpenAI、Anthropicと中国のAIラボ間の競争に直接影響を与えます。

工場は、若和田の依存から引き続き出現します。

また、大規模なAI企業が引き続き、GPUに対する依存性を低下させるという事実を反映しています。 ジェネリックGPUは、現在のAIのトレーニングと推論のためのコアハードウェアを維持します, しかし、超大型モデルサービスプロバイダのために, 専用チップは、長期的なコストを削減するより良いチャンスを持っています.

  • チップのコード名は冷凍v2です
  • 初期のデプロイタイムポイントを2028に
  • ターゲット効率が6～10倍に増加

Google、Meta、Amazon、Microsoft、OpenAIに加えて、セルフスタディチップのプロモーションも行っています。 報告書によると、凍てつくv2はまだ実験的なフェーズではありますが、重要なデザインはまだ最終的なものではなく、Googleはプロジェクトの存在を正式に確認していません。

追加情報:また、Geminiの周りにハードウェア設計がカスタマイズされ、他のモデルを直接実行することが困難だったため、チップは外部クラウド顧客に開いていないと報告しました。