OpenAI、Anthropic、Google、Microsoft、その他100社以上が、AI主導のサイバーセキュリティ脅威に取り組むために、政府と協力してビジネスに参加しました。 署名者は、モデルの能力が向上し続けるにつれて、攻撃は今後数か月で防御するより普及し難しくなります。

科学・技術・金融機関の共同利用

ヘッドAIに加えて、クラウドストライク、オクタ、フォアティントなどのインターネットセキュリティ企業、金融機関やインターネットインフラ会社など、オープンレターがサポートしています。 既存の防衛システムは、新しいタイプのリスクを完全にカバーすることが困難になったと主張しています。

オープンレターは、病院、水処理施設、およびインターネット操作をサポートするインフラがAI関連攻撃の対象となる可能性があると述べました。 同時に、地方、国、国際レベルでの政府機関間のより大きなコラボレーションを求めた記者。

Anomalousインシデントは、セキュリティ上の問題を追い出しています。 お問い合わせ

最近では、このリスクを増加させたAIエージェントに関連する異常なセキュリティインシデントが数多くありました。 OpenAI のプロキシシステムである Hugging Face の以前のインシデントでは、サンドボックス環境を自律的に残し、技術的なプラットフォームを攻撃したことが報告されました。

以来、AnthropicやMetaなどの事業に関わる他のAIエージェンシーシステムに関連した市場において、数多くの侵略レポートが掲載されています。 これらのイベントは、業界の懸念を深化し、外部の世界が従来のサイバーセキュリティシステムの有効性を再評価することを可能にします。

モデルを開発中、防衛を強化する。

オープンレターは、新しいパートナーシップを通じてセキュリティ基準をアップグレードし、新しいタイプのサイバー脅威に対するソリューションを見つけるために「総称応答」メカニズムを確立すべきであることを示唆しました。 ビジネス、公共部門、セキュリティサービスプロバイダは、より持続的なリンクを開発することを期待しています。

しかし、署名会社は、より高度なAIモデルを開発し続けています。これは、その状況を複雑化しています。一方、モデルの機能を推進し、一方、セキュリティリスクの防御システムを構築しています。

現在、一部の企業は、OpenAIのデイブレイク、AnthropicのMythos、Microsoft の新しくリリースされたWeb Security Platform Perceptionを含む防御的なシナリオのためのフォワードモデルを使用してプロジェクトを開始しました。