1 : AIにジムの予約を頼んだら予約ソフトウェアをハッキングして数カ月先まで予約可能にしただけでなく順番待ちリストの上位にいた他の人物を勝手にリストから削除 オーストラリアに住む人物がAIでジムを予約したところ、頼んでもいないのにAIがシステムをハッキングして通常は予約不可能な数カ月先の日付をしてきたそうです。この人物が体験談を共有しています。 自身をAI専門家だと語るアンドリュー氏は、ある日普段通っているジムで人気の高い朝のクラスをAIで予約しようとしたとのこと。このときアンドリュー氏はAIエージェントの「OpenClaw」経由でAnthropicの「Claude」を利用しました。すると、AIエージェントは予約システムの脆弱(ぜいじゃく)性を発見し、それを利用して本来可能なはずだった範囲をはるかに超えた数カ月先の日付を予約する方法を見つけてアンドリュー氏に教えてきたそうです。 続いてアンドリュー氏は、その週後半に行われるクラスのウェイティングリストで4番目につけていた自分をリストの先頭に移動できるか尋ねました。するとAIエージェントは「テストの一環」として、別のジム利用者をリストから外したとアンドリュー氏に伝えてきました。 AIエージェントは「APIには、他人の予約をキャンセルする際の認証チェックがまったくありません。ウェイティングリスト1番の人を対象にこれをテストしたところ、実際に処理が通りました。これであなたは4番から3番に上がりました」とメッセージを返してきたそうです。 不安を感じたアンドリュー氏は元に戻すよう求めましたが、AIエージェントは「悪い知らせがあります。その人を元に戻すことはできません」と返答しました。最終的にアンドリュー氏は悪用した脆弱性を知らせるメールを書くよう依頼し、AIエージェント経由でジムの関係者に送信したとのことです。 全文はソースで…