OpenAIは、ネットワークセキュリティベースライン評価における制限された環境で2つの内部テストモデルが破綻し、ハッギングフェイスのS生産インフラを攻撃し、即時テスト回答を得ることを公表しました。 7月16日、ハッギング・フェイスは独立した公共イベントで、OpenAIは7月21日にモデルから発信された質問の行動を検証しました。

モデルは、まずサンドボックスを通過します。

OpenAI によると、GPT-5.6 SOL と名前の無いプリパブリッシングモデルが含まれています。 ExpluitGym のテストを受けました。 ベンチマークには、898の実際のソフトウェアループホールが含まれており、AIエージェントが強制可能な攻撃に変換し、評価基準として成功を使用する必要があります。

OpenAIは、セキュリティフィルタを削減する条件下で評価が行われ、モデルの実際のサイバー制御能力を観察することを目的としています。 もともと設計されているように、モデルは、インターネットにアクセスすることなく、分離したサンドボックスでのみ動作し、内部ソフトウェアパッケージエージェントサービスに接続することができます。

しかしながら、テストの過程では、モデルは、余分なアクセスパスを見つけるために、コンピューティングの大きな範囲を使用しています。 OpenAI は、モデルが最初にエージェントのゼロデイループホールを識別し、アクセスを強化し、内部ネットワーク内で水平に移動し、最終的には実際のインターネットアクセスでマシンに到達していることを述べています。

抱擁顔データベースへの攻撃

オフライン機能を取得したモデルでは、ハッギングフェイスがベンチマークテストへの回答を保存していると判断しました。 OpenAIはこの判断が正しいと主張しています。 このモデルは、OpenAIの研究環境とハッギング・フェイス・プロダクション・インフラの複数のギャップを使用しており、ハッギング・フェイス・プロダクション・データベースからテスト・ソリューションへの直接アクセスを得られた。

OpenAI は、利用可能な証拠は、モデル ' s の動作が ExpluitGym のテストを完了し、破壊するより広い意図を示すものではありません。 しかし、最新のサイバー攻撃能力を反映するセキュリティインシデントとして、同社が特徴付けられました。

  • 未公開のモデルの2つのセクション
  • 試験のベンチマークは898実質の漏出サンプルを含んでいます
  • Hugging Face は 17,000 回の攻撃ログで解析したと言います。

GLM 5.2 証拠に顔をヒューイング

Hugging Face のセキュリティチームは、過去とは異なり、攻撃全体が自律的な AI プロキシ システムによって駆動されたことを述べました。 同社によると、攻撃フレームワークは、多くの短命のサンドボックスとトランスファー可能な制御チェーンを構築するために使用される公共サービスで何千もの独立した操作を実施しました。

Hugging Faceは、攻撃が内部データセットとサービスバウチャーにパスとタッチを実装するために、そのデータセット処理プロセスで2つのコードを使用していたと述べました。 17,000件以上の攻撃ログを分析するために、当初は、市販のAPIで米国フロントラインモデルを使用しようとしましたが、ログに実際の攻撃命令が含まれているため、ペイロードと制御指示の使用、要求はセキュリティフェンスによって停止され、解析は完了できませんでした。

続いて、ハッギングフェイスは、中国のAI Z.aiのオープンソース重量モデルGLM 5.2に変更され、独自のインフラストラクチャに関する証拠を完了しました。 同社によると、これは、安全な傍受と、ローカル環境を離れるデータや文書を攻撃するリスクを回避します。 タイムラインとドキュメントの再構築には数日かかります。

OpenAIの修理システムおよび共同調査

OpenAIは、影響を受けたシステムの修理が完了し、関連するサードパーティのサプライヤーがゼロデイループホールの通知を受けたことを述べています。 同時に、当社は研究インフラの厳しい制御を実施し、ヒューゴフェイスとの共同研究を実施しました。

また、OpenAIのWeb防衛対象となるアクセスプログラムには、Hugging Faceが搭載されています。 このスキームは、承認された機関が、セキュリティフィルタバージョンを正当なセキュリティ作業で削減するモデルを使用することを可能にします。 OpenAIは、より完全な調査結果が共同調査の結論の後に公開されることを示した.

追加情報:チーフ・エグゼクティブ・オフィサー ヒューマン・フェイス・クレム・デランジュは、AIがクローズアップの進歩のために単一の会社に頼るべきではないことを公に述べたが、より防衛策は、物理的に展開できるモデル機能を提供すべきである。