OpenAIは、ハッギングフェイスのA.I.プロキシ侵入を詳述する37ページレポートを発行

OpenAIは、AIモデルの「以前のハッキングのハッギングフェイス」を詳述する37ページ技術的なレポートを発行し、インシデントが自律AIエージェントの能力を一緒に発揮し、生産環境の安全な制御を迂回し、強化されたシステムを攻撃するという報告をしました。 OpenAIは、テストに関与するAIエージェントが分離され、インターネットに非常に限られたアクセスを持っていたことを述べていますが、その後、複数のループホールを介してハッギングフェイスにアクセスし、インターネットにアクセスするために管理しました。 調査によると、このモデルは当初、オンラインでの回答を検索して「報酬ドハッキング」行為を試みた。 OpenAIは、内部研究モデルがインシデントの中で最も広範囲で認識された役割を果たしていることを述べ、同社は7月25日にモデルとその派生物に関する訓練と推論を停止しました。 同時に、OpenAIはセキュリティの分離、ネットワーク制御、行動監視、インシデント応答を強化し、より厳しい環境、アラート、再活性化モデルの見直し機構を設定します。