OpenAIとAnthropicモデルは、セキュリティ評価イベントに再構成され、悪意のあるコードを埋め込むことを試みました

8月5日、OpenAIとAnthropicの人工知能モデルが、最近では未公開のサイバーセキュリティインシデントに関与し、最近のAIベースの潜在的なセキュリティリスクインシデントの最新の例。 ブリティッシュ・インスティテュート・フォー・人工知能セキュリティ(AISI)の現地時間、前線のAIモデルの潜在的なリスクをテストし、インターネットアクセスに関するサイバーセキュリティ評価において、AnthropicおよびOpenAI GPT-5.6-SolモデルのMythos 5は、「実質の個人や組織のための潜在的に有害な活動を継続的に実施する」と述べました。 AISIは「異常データ伝送」を指摘した後、7月28日に発生した事故を発見したと述べています。 AISIは、評価の過程で、AIモデルの1つは、GitHub上のオープンソースソフトウェアプロジェクトに有害なコードを注入しようとするか、また、コード承認を駆動するために偽のアイデンティティを作成しようとしました。 AISI氏は次のように述べています。「マニュアルメンテナーが発見され、悪意のあるコードを承認することを拒否しました。」