Sysdigは、その研究チームは、大規模な言語モデルによって組織され、実装された強要ソフトウェア攻撃のケースを発見したと述べた。 攻撃「ジェイド・パファー」と名付けられたチームは、最初の記録されたAIプロキシブラックメール攻撃と呼ばれます。
新たな技術ではありません。
Sysdigの研究者によると、攻撃は侵略の特に小説や洗練された方法を採用しなかったし、AIモデルはプロセスを整理し、手順を実行し、操作を調整する役割を想定していることを本当に驚かせています。 つまり、攻撃を発進するために必要な技術的なしきい値が落ちることを意味します。
研究者は、攻撃プログラムは、AI APIのログイン情報、クラウドサービスバウチャー、暗号化された通貨ウォレット、データベースアカウントなど、ターゲットサーバーに複数の種類の機密情報を検索することを示しています。 システムは、請求された金額、ビットコインの収集アドレス、プロトンメールの連絡先情報を含む、自動的に行使の声明を生成します。
自分で修正できます。
Sysdig は、AI 生成された特性を持つターゲットサーバー上の行動のいくつかのコードマークとモードがあったため、攻撃中のAIモデルの存在が判断されたと述べています。 研究者はまた、モデルがエラーとプロンプトに基づいて実装の過程でコードを修正することができ、攻撃を進行するために続けられたことを言及しました。
ソーシャルプラットフォームXでは、サイバーセキュリティエンジニアは、イベントの最も著名な機能の1つが、モデルが独自のコードを読み、変更し、約31秒で操作を再開できるようにしたと述べました。これにより、リアルタイムの適応性が向上しました。
マイクロソフトの研究者はスケールの危険を警告しました。
Geoff McDonald、Microsoft Data Scientist、およびCybersecurity に関する研究者、Geoff McDonald 氏は、同様の攻撃が将来的に著しく拡大できると述べた。 彼の判断では、暴行ソフトウェアと破壊的な攻撃のスケールは、手動能力ではなく、攻撃者の予算によって大きく制限されます。
彼のビューでは、脅威の俳優が同時に何千人もの攻撃を立ち上げる可能性があることを意味し、サイバーセキュリティ業界や外部防衛システムはまだそのような変化のために準備ができていません。
AI、セキュリティの制限が強化されています。
この事件に先立ち、AIモデルのネットワークセキュリティ機能が業界の懸念を提起しました。 Anthropic と OpenAI の両方が最近、ネットワークセキュリティ関連の機能のアップグレードのために、いくつかの高レベルのモデルに厳しいアクセス制限を配置しました。
また、トランプ政府は、以前は、セキュリティ上の懸念のためのAnthonyの輸出制御を課していたと述べた, クロードMythos 5とFable 5モデルを含む. 攻撃、セキュリティ、規制の議論を自動化するAIの能力が高まり、熱を続けられることがあります。