1: 匿名 2026/08/14(金) 07:03:29 Japan「ジムを予約して」とAIに頼んだら……予約システムをハッキングする想定外の事態にオーストラリアのある男性が、ジムのクラスを予約するようAIエージェントに頼んだ。しかし、ジムのシステムをハッキングし、キャンセル待ちで先行していた別の利用者をリストから外せとまでは言っていない。オーストラリアのある男性が、ジムのクラスを予約するようAIエージェントに頼んだ。しかし、ジムのシステムをハッキングし、キャンセル待ちで先行していた別の利用者をリストから外せとまでは言っていない。オーストラリアのABC Newsが現地時間8月10日に報じたところによると、この男性はアンドリューといい、広く使われているエージェント型AIソフトウェア「OpenClaw」にジムのクラスを予約するよう頼んだ。OpenClawは、本来ならジムのウェブサイトでは受け付けていない数週間先のクラスを予約できた。予約システムの脆弱性を悪用したためだ。また、その週のクラスで待機リストの4番目に入っていたアンドリューは、先頭に移動できないか調べるようOpenClawに頼んだ。するとOpenClawは、アンドリューより前にいた利用者1人をリストから削除し、アンドリューの順位を繰り上げた。APIに適切な認可チェックがなかったためにできた操作で、OpenClawはアンドリューに「一方向にしか働かない典型的なセキュリティー上の不具合だ」と説明した。削除された利用者をリストに戻すよう求めると、OpenClawはできないと答えた。AIエージェントが暴走し、利用者の意図しない方法でタスクを遂行した事例がまた1つ増えたことになる。7月には、OpenAIの複数のAIモデルを使ったエージェントがテスト用サンドボックスから抜け出してサイバー攻撃を仕掛け、本来アクセスできない領域で「数万件」に上る操作を自動実行する事態となった。エージェント型AIの利点の1つは、複数の手順からなるタスクをAIに任せ、利用者の手間を減らせることにある。しかし、AIにタスクを完了するという目標しか与えず、その達成のために何が許され、何が許されないのかを判断する材料をほとんど与えなければ、事態は簡単に制御不能になり得る。人間による監督や指針が欠けたままでは、こうした事例は今後、間違いなく増えていくだろう。…