1: 匿名 2026/08/10(月) 22:58:14 時事ドットコム相次ぐＡＩモデル「暴走」 自律的攻撃に危機感―米、規制強化の動きも：時事ドットコム人工知能（ＡＩ）が暴走し、社会に自律的な攻撃を仕掛ける。そんなＳＦ映画のような事案が７月下旬以降、米ＡＩ開発企業で相次ぎ発覚している。米政府や議会の危機感は強く、規制強化に向けた動きも出ている。ハギングフェイスによれば、システムの弱点はありふれ、人間でも悪用できる類いだった。だが、違ったのはその規模だ。ＡＩモデルは数日間に１万回以上の行動を仕掛け、数千件の失敗を繰り返しながら侵入を成功させた。ＡＩが人間には不可能な規模と速度で攻撃を行う、象徴的な事例だった。米ＡＩ新興アンソロピックはオープンＡＩの発表を受け、過去の記録を調査。４月以降、最先端モデル「クロード・ミュトス５」などが、外部企業を攻撃する事案が３件あったと明らかにした。米メタ（旧フェイスブック）でも、外部企業の設定ミスが原因で、テスト中のモデルがネットへアクセスし、攻撃を仕掛ける事例があった。ＡＩ暴走に、米政府や議会は対応に乗り出した。オープンＡＩの発表直後、超党派の議員らが下院にＡＩモデルが危険な行動を取った際、開発企業に停止を命令できる権限を当局に付与することなどを含む法案を提出。トランプ大統領も暴走を受けて記者団に「ＡＩを制御することを検討している」と明言した。関連トピックガールズちゃんねる - Girls Channel -オープンAIのモデルがテスト中に暴走、他社システムに侵入 | ガールズちゃんねる - Girls Channel - オープンＡＩはブログへの投稿で、最も高度なモデルの一部能力を管理された環境下でテストしていたが、エージェントが隔離環境から脱出してインターネットに到達し、テスト目標を達成しようとハギングフェイスに侵入したと説明した。 オープンＡＩはこの...…
