OpenAIは、AIチップのJalalapeñoの自己学習が主に大規模な推論シーンに向けて方向づけられ、より多くの要求の処理とユニットコストでの応答時間の減少を強調したことを開示しました。 リチャード 同社の s ハードウェアの責任者である Ho 氏は、テスト結果が既存のプログラムのパフォーマンスにおいて大きな改善を示したと述べました。

2026年までの小規模展開

OpenAIによると、Jalalapeñoの現在のパフォーマンス比較にはNvidia Blackwellが含まれています。 しかしながら、チップとフルスプレッドとの間の時間ギャップはまだあります。 リチャード ガラペニョは2026年の終わりまでに非常に小さいスケールで展開されると予想し、より広い適用は2027年に。

つまり、チップが実際に大規模なゴーライブフェーズを入力すると、市場での競争も重なり続ける可能性があるため、競争の実際のパターンは変数のままです。

チェスとの協業開発

ガラペニョは昨年10月に出版され、Chaseと協力してOpenAIによって開発されました。 また、同社のs独自のモデルがチップ開発プロセスに関与していたことを示す。

OpenAIは、Jalalapeñoを1つのチップだけでなく、多世代のプラットフォームを作る予定です。 これらのラインに沿って、将来のAI製品、モデル、チップ、メモリは、システム全体の効率性を向上させるために、総合的に設計されます。

ボトルネックの推論の最適化に焦点を当てる

OpenAIによると、この全プールのアプローチにより、企業が特定のボトルネックを推論プロセスで直接最適化することができます。特にプレフィリングと通信フェーズ。 同社によると、2つのリンクは、推論のペースを遅くする傾向があります。

ブログでは、Jalapeñoの設計目的の1つがデータ処理と通信遅延を削減することです。 これにより、応答を生成するために使用されるKVキャッシュを含むモデルの状態は、より明確にローカルおよび適切なコンピューティング、メモリおよびネットワークリソースを異なる段階の推論で動員させることができます。

開示された情報から、Galapeño のコアセールスポイントは、単点の計算だけでなく、推論プロセス、エネルギー効率、システムシナジーの遅延に関する全体的な最適化です。 これにより、AIサービスの世代が拡大するにつれて、チップの競争は、トレーニング容量から推論コストと応答速度にさらに拡張されます。