SemiAnalysis: Kimi K3 は Yvette および HBM の引きを逆転させます

7月19日、月表の大きなモデルである金井K3は、リニアな注意メカニズムを導入し、Yin Weida、HBM、ネットワーク機器の需要の弱化に関する懸念を上げました。 しかし、半導体研究機関であるSemiAnalysisは、最近、かなり異なる判断を下しました。K3パラメータの大型化と、高エンドのAIハードウェア要件を弱くするだけでなく、高エンドのGPU、HBMおよび高速相互接続機器の需要をさらに高めるという理由が必要でした。 SemiAnalysis は、K3 パラメータサイズが 2.8 トリリオンを超え、モデル重量容量が 1.5 TB HBM を超えると述べています。 比較的限られた数のユーザーシナリオでも、KV キャッシュは CPU DDR5 メモリと NVME ストレージに大量のオフロードを必要とし、HBM スペースは重要な余剰を発生しません。 さらに重要なのは、月面の暗闇は、K3の効率的な推論展開が、少なくとも64チップの大規模な拡張エリア構造が必要であることを以前に明らかにした。 このハードウェア要件は、WeidaのGB200/GB300 NVL72などのステージAIシステムの設計方向に対応しています。 SemiAnalysis は、「GPU の要求を分ける」として線形注意の市場の事前の理解の論理が偏りました。 実際の衝撃は逆になる可能性があります。より効率的なモデル構造により、AIの推論コストを削減し、より多くのアプリケーションを上陸させ、GPU、HBM、DRAM、ネットワークインフラストラクチャの長期需要を刺激します。 (運営)