1 : 米オープンAIは21日、同社の最も高度な人工知能(AI)モデルの一部がセキュリティーテスト中に制御がきかなくなって暴走し、スタートアップ企業をハッキング攻撃したと明らかにした。 オープンAIはAIチャットボット「チャットGPT」の開発元。同社の発表では、人間の指示に従って自律的に動作するAIシステムのエージェントが、管理された環境でのテスト中に脆弱性(ぜいじゃくせい)を見つけ、テストの制限を突破したという。 このエージェントは、世界最大級のAIモデル共有プラットフォーム企業の一つ、米ハギングフェイスを標的にし、同社の内部システムの一部にアクセスした。 オープンAIは、今回の出来事は「前例がない」とし、ハギングフェイスと共同で調べを進めていると説明した。全文はソースで…