「AIインフラストラクチャ」は、100万ドルに相当する資金調達で15万ドルの完了を発表しました。 参加者は、OpenAIとAnthropicのTouring Capital、Princes VC、研究者を含む。 さまざまなチップのモデルを容易にするという希望でAIを推論するためのソフトウェアレイヤーを開発しています。

製品の金融の方向

現在のAI産業チェーンでは、Nvidia の s の利点は、チップ性能だけでなく、CUDA ソフトウェアのエコロジーからも導出します。 開発者は、通常、PyTorchやTensorFlowなどの主流フレームワークに基づいてアプリケーションを準備します。このフレームワークは、CUDA上に構築されているため、Nvidiaチップでデフォルトで実行されるAIアプリケーションが多数あります。

Infinityはこの依存性を解決したい。 同社は、よりチップがより簡単にAI推論タスクを運ぶことができるように、CUDAを交換できるボトムアップソフトウェアを構築しようとしました。 つまり、ソフトウェアは、GPU、モバイルチップ、SRAM、Systolic Arrayなどの異なる構造に適合します。

クロスチップの推論を狙います。

インフォアリティの目標は、異なるチップがフロンティアAI研究の結果を実行し、複製することができる一般的な推論ライブラリを作成することです。 ほとんどのアプリケーションレベルの起業家精神企業にとって、独自のカーネルと他のチップへのアプリケーションの移行の準備は、多くの場合、十分なエンジニアリングリソースで時間がかかり、不足している、Nvidiaソフトウェアが長期的な生態学的卓越性を持っている理由の1つです。

同社の創設者であるジェレミー・ニクソンは、AGIハウスコミュニティのGoogle Brainの研究者と創設者でした。 インフィニティを作るという考えは、「自動発明」から来たと述べた。 彼のビューでは、AIシステムはモデルだけでなく、チップがより効率的に動作するのを助けるためのボトムコードを生成することができます。

AI プロキシでボトムコードを生成

Infinityのコア製品の一つは、IgnitionというAI Research Agentです。 システムは、非NVIDIAチップの推論に必要なボトムコードを開発し、テスト、デバッグ、パフォーマンス測定を完了するために使用されています。 結果が満足しない場合は、システムが自動的に動作の効率を改善するためにコードを書き換えます。

同社によると、システムは、継続的な自己最適化機能を持ち、独自の設計でハードウェアを含む異なるチップ構造に適応することができます。 Infinity は CUDA レベル近くのソフトウェア倉庫としてそれを見つけます。

現在、Infinityの顧客はAIの破片の会社D-Matrixを含んでいます。 Jeremy Nixonは、同社が他の大きなチップ会社やクラウドコンピューティング会社と接触していたことを示しています。 ビジネスモデルは、事前受領されたソフトウェアの承認料ではありませんが、パフォーマンスの強化とコスト削減によって分割され、対策には毎秒トークン数が含まれます。

追加情報:現在、Infinityチームは26名、デザイン、運用、エンジニアリングのポジションをカバーしています。