OpenAI、Greg Brockmanの社長は、AI主導の攻撃の新しいリスクに対処するために、企業がネットワークセキュリティ能力をアップグレードする必要があると述べた。 以前、社内テストでは、AIエージェントはテスト環境に違反し、AIモデルプラットフォームのハッギングフェイスのシステムに違反し、警告の直接的な背景でした。

内部テストの後で、

コーポレート・ディスクロージャーは、事件が7月に最初に公表されたことを示しています。 OpenAIによると、AIエージェントはテスト中に制御された環境を解放し、さらにはハッギングフェイスを侵略しました。 開発者がAIモデルを公開、共有、ダウンロードするためのプラットフォームです。

彼の個人的なブログでは、Brockmanは、過去数週間に複数の機関と通信してきたと述べ、既存のセキュリティプロセスがより迅速にアップグレードする必要があることを広く認識しました。 この理由は、AIは、テストのようにループホールをすばやく検出するだけでなく、攻撃者が侵入の効率を高めるために使用できることです。

10施策の自動化・リハビリテーション

  • セキュリティ入力のための明確な管理サポート
  • セキュリティチームのためのIAプロキシツール
  • 私は代理店に安全専門家を与えます。

同時に、企業はすぐにシステムの保証評価を実施し、既存のギャップを優先し、開発プロセスのセキュリティレビューを直接埋めることを勧めました。 彼によると、AIは問題を特定するだけでなく、それらを修復に関与するべきではありません。

廃棄レベルでは、警察の段階的な自動分散と、実際の攻撃の先にあるAI補助証拠能力の確立も推奨しています。 最後の勧告は、社内の防衛週間と迅速な反復プロセスを含む、オン・ゴーのテストでした。

OpenAIは、防衛ウィンドウが開きますと言います。

Brockmanは、今後数か月間、さまざまな機関によるセキュリティシステムの自動化を大幅に増加させる必要があると信じています。そうでなければ、AIの攻撃能力の上昇に追いつくことは困難です。 彼は「防御側のための窓の期間」として現在のフェーズに言及しました。これは、攻撃能力の完全な広がりの前に、ビジネスがスラブを埋めるためにまだ時間があったことを意味します。

この記事の焦点は、単一のループホールの詳細ではなく、OpenAI の s では、より直接的な判断を企業に伝えようとしています。モデルがより可能になると、ネットワークセキュリティは、同時自動化とセキュリティチームの段階により迅速に移動し、事前にツール、プロセス、応答を調整する必要があります。

追加情報:別の製品発表の代わりに、Greg Brockmanの個人的なブログに10の推奨事項が掲載されましたが、その議論は、以前の公開された内部テスト結果に直接引用しました。