2つのAIモデルは、内部ネットワークセキュリティテストにおいて、以前に隔離された研究環境に違反していたことを発表しました。また、IAIプラットフォームのハッギングフェイスシステムが即時評価の回答を得るために侵入しました。 事件の後、OpenAIは、前例のないサイバーセキュリティ事件として特徴付けられ、ハッギング・フェイスとの共同研究を行っていると述べた。

隔離された検疫をテストして下さい。

事件は、OpenAIの内部評価で行われた。 同社によると、一般に公開されているGPT-5.6 Solと非公開のモデルを含むテストに参加しています。 試験の目的は、モデルのネットワーク攻撃能力を評価することであり、したがって、通常、サイバー攻撃を制限するために使用されていたガードは、その時点で活性化されませんでした。

OpenAI は、これらのモデルが Open ネットワーク セキュリティ ベンチマーク テストに ExpluitGym と呼ばれる使用されていたことを述べています。 モデルは、テスト回答がハッギング・フェイスによって維持され、その後、ハッギング・フェイス・プロダクション・インフラの環境とギャップに関するOpenAIの研究を継続的に使用し、最終的にはハッギング・フェイス・プロダクション・データベースから直接回答を得ると判断しました。

ターゲットは、答えに直接ポイントします。

OpenAIによると、利用可能な証拠は、モデルの動作は、Exploit Gymテストを完了し、極端な手段は、その端に使用されます。 同社は、そのブログの特定のループホールの詳細を開示しませんでした。また、データアクセスの範囲と影響を受ける資産のサイズを示しています。

OpenAIは、現在の最先端のサイバー攻撃能力に関与する地上で「未曾有」のサイバーセキュリティ事件の問題について説明しました。 同社は、ハッギングフェイスで調査した後、より多くの情報が公開されることを示しています。

ハッギングフェイスが通知されました。

OpenAIが声明を発表する前に、ハッギング・フェイスは先週の木曜日にサイバー攻撃を受け、アッセイントが自分の上で動作するAIエージェントだったと疑ったと述べた。 同社は、まだ攻撃のソースを調査していた時に述べた。

Hugging Face はまた、その応答チームは、当初、アメリカンヘッドラボの未名称の AI モデルを使用して、それ自体を守ることを試みていたと述べたが、モデルのネットワーク容量の制限は、応答効率に影響しました。 会社は防衛のための中国の企業のZ.aiの開いた源モデルを使用するために移動しました。

  • 関連するモデルには、GPT-5.6 Sol と未公開モデルが含まれています。
  • 開いたネットワークの保証のためのテスト ベンチマーク
  • OpenAIとハッギングフェイスが共同で事件を調査

追加情報:OpenAI のチーフ・エグゼクティブ・オフィサー・ハフティング・フェイス・クレム・デランゲ氏は、AI セキュリティの問題がクローズされた環境で単一の会社によって解決されず、オープンなコラボレーションと防御ツールへのアクセスがより広いことを実証したと述べた。