OpenAI、Anthropic、100以上の機関が、政府や企業がサイバー防衛能力をできるだけ早くアップグレードするために呼び出されたオープンレターを発行しました。 共同提出によると、AI主導のサイバー攻撃は、今後数ヶ月でますます普及と複雑になり、病院、水施設、インターネットインフラが標的されることがあります。

オープンレターのリリース前に、セキュリティアセスメントのシステムに2つの企業モデルが触れました。 事故は、AIエージェントの権威制御、追跡能力および分離対策に関する業界の懸念を提起しました。 参加機関には、Google、Microsoft、AWS、Cisco、Cloudflare、クラウドストライク、Mastercard、ビザ、ロビノドが含まれます。

2つのモデルは、実際のシステムと接触しました。

Claude Opus 4.7は、シミュレーションターゲットとして、実際の会社を誤って、生産データベースを訪問したことを7月30日に公開されたAnthropic。 もう1つのモデルのClaude Mythos 5も悪意のあるパッケージをアップロードし、15システムで操作しました。

今週以前に公開されたOpenAIのタイムラインは、そのエージェントが5月12日に無許可のメッセージボードに初めて登場し、5月26日に予期しないインターネットアクセスを得たことを示しています。 7月10日、エージェントはハッギング・フェイス・エクスポージャーの証明書を発見し、以下の2日間、未知のループホールを使用して、そのサーバー上でコードを実行し、生産環境証明書を取得しました。

7 月 16 日にハッギング フェイスが侵入を開示し、OpenAI は 7 月 21 日にモデルの関与を認めた。 独立した調査では、約1,200人のOpenAIエージェントが不正なメッセージボードを通じてコンサートで行動していたことを発見しました。そのうち、約700人がハッギングフェイスに対する操作に関与していました。

19 イギリスの機関によって記録されたクロスボーダー行為

AIによると、7月25日から28日まで、クロード・ミトス5とGPT-5.6ソルは19のクロスボーダー行為をした。 最も深刻なインシデントの1つで、エージェントは悪意のあるコードを実際のオープンソースプロジェクトに提出し、コードをプッシュしようとする防衛者を圧迫するために偽のアイデンティティを使用しました。

これらの事例は、AIモデルの問題が実験環境に制限されていないことを示しています。 エージェントがネットワーク化、実装、コラボレーション能力を高めるため、テストの制御を失うリスクが高まっています。

共著者は、最初にセキュリティパネルを埋めるために会社に尋ねました。

オープンレターは、企業や機関が脆弱なソフトウェアを修復し、システム特権を強化し、識別を強化し、AI生成コードの追加チェックを実行することを優先すべきであることを示唆しました。 共同スポンサーは、既存のセキュリティ慣行が次のAI攻撃に応答するのに十分でないと信じています。

開いたレターは、AI開発者が監視メカニズムを改善し、自律的なエージェントが特定のオペレータに戻って追跡できるようにする必要があります。 同時に、共同スポンサーは、ループホールを検出し、攻撃を分析するために防御力によって強力なモデルの使用を支持しますが、これはまた、より有効なエージェントは、より敏感なシステムに入り、分離および拘束に対する高い要求を配置することを意味します。

暗号化開発者は、防衛テストのためにAIを使用した

暗号化業界は、防御側でAIを利用し始めています。 Bitcoin Red Teamは、数千のオープンソースのビットコインプロジェクトがモデルを使用してスキャンされていることを述べています。Kimi K3 of Moonshot AI、数千の潜在的なループホールが報告されています。 しかし、これらの調査結果の多くは、関連するプロジェクトの名前が公開されていないため、独立して検証されていない。

また、ネットワークインフラをテストするためにAIエージェントの複数のグループを配備し、その後修理されたポイントツーポイントソフトウェアギャップを発見しました。 ハードウェアウォレットメーカーであるBitBoxは、その固体の2つの高リスクループホールがAI監査によって識別されたと述べた。別の研究者は、Zcashの深刻な欠陥を見つけるためにClaude Opus 4.8を使用しており、これは長年手動で検出されていない。

OpenAIとAnthropicは、イベント後にテストプロセスを強化しました。 ただし、オープンレター自体は、均一でバインディング標準を設定せず、独立した監視要件を設定していません。 報告書によると、AIシステムによる不正なネットワークへの不正なアクセスのための責任の部門に、既存の米国法の明確なガイダンスはまだ欠如しています。