Anthropicと英国AIセキュリティ研究所(AISI)は10月23日、AIモデル「Claude Mythos 5」がサイバー攻撃の能力試験中に、試験とは無関係の実在の開発者を攻撃しようとした問題について、それぞれ分析結果を公表した。Mythos 5は偽アカウントを使って開発者に不正コードの承認を迫っており、両機関は攻撃に踏み切った理由や、途中でやめなかった背景を調べた。 問題が起きたのは7月に実施されたAISIの試験で、8月4日に最初の報告が公表されていた。試験では、模擬ネットワーク内にある保護されたデータを取得する課題を与えていた。当時はインターネットへの接続を意図的に認め、一般提供モデルに適用するサイバー攻撃対策も無効化していた。43回の試験のうち9回で、許可された範囲を超え、実在の人や組織に影響する行動が確認されたという。 Anthropicの分析によると、今回詳しく調べた事例では、課題の指示に誤りがあり、許可された手段だけで目標を達成することは極めて難しかった。 ※詳しくは下記リンクより 関連記事 最も優秀なAIは? 「ChatGPT」「Gemini」「DeepSeek」「Claude」 【悲報】女子体操選手「男が性的な目で見てきてキモいからハイレグやめるわ」 【画像】ノースリーブの女って◯◯丸出しになってること気づいてないよなwwwwwwwwwwwwwwww 【画像】柏木由紀さん、うっかり街頭インタビューされてしまう ←95%本人だろと話題にw…