アップルコンコルドのAIオリジナル会社は、iPhone上で大きなモデルを直接動作させる

7月15日、CNBCによると、Appleは初期のAI会社 PrismMLとの最初の接触で、AIモデルの圧縮技術を評価しました。大きなAIモデルは、クラウドベースの計算に依存することなくiPhoneで直接動作するという希望でした。 PrismMLは、モデルのメモリ占有率を10〜15倍に削減できる状態で、モデルには27億個のパラメータがiPhone 15以上で動作し、6〜8倍の応答速度を増加させ、3〜6倍のエネルギー消費を削減することができます。 テクノロジーが成熟すると、Appleはより多くのSiriとAI機能をローカル操作に動かすことが期待され、応答速度、プライバシー保護能力、オフライン使用経験を増加させ、クラウドコンピューティングコストを削減します。 しかしながら、大規模の実用的アプリケーションを検証する技術がまだ必要とされている業界に注目され、バッテリーの連続性、安定性、長期的な性能への影響が見られるようになりました。