米グーグルが開発中の人工知能（AI）が今年5月、評価テスト中に誤ってインターネット接続可能な設定になっていたため、実在する外部企業3社のシステムに侵入していたことが判明した。AI自身が侵入に気付き、その場で動作を停止したという。 この一件はグーグル側からの公表ではなく、米紙WSJ（ウォール・ストリート・ジャーナル）の報道で発覚。グーグルは日本経済新聞の取材に対し侵入の事実自体は認めたが、事故から4カ月以上、自主的な公表はしていなかった。 ニュー速+では「スカイネット」「ターミネーター」を引き合いに出すディストピア的な反応から、技術的な原因を冷静に分析する声まで、幅広い議論に発展した。 元ニュース：日本経済新聞「GoogleのAIも他社システムに侵入　事故直後に停止、公表せず」元スレ：GoogleのAIも他社システムに侵入　事故直後に停止、公表せず（ニュース速報＋） PART1：発端は「評価テストの設定ミス」 1 ぐれ ★ GoogleのAIも他社システムに侵入　事故直後に停止、公表せず – 日本経済新聞 【シリコンバレー=伴正春】米グーグルが開発中の人工知能（AI）が5月に実在する外部企業3社のシステムに侵入していたことが18日わかった。評価テストで誤ってインターネットに接続できる設定になっていた。AI自身が侵入に気付き、動作を止めたという。 米紙ウォール・ストリート・ジャーナル（WSJ）が報じた。グーグルは日本経済新聞の取材にAIによる侵入が起きたことを認めた。 7 AI自身が侵入に気付きってどういうこっちゃ 人間のミスをAIに指摘されたってことか 10 侵入を防ぐことができなかったわけだ これは問題 18 >評価テストで誤ってインターネットに接続できる設定になっていた。 >AI自身が侵入に気付き、動作を止めたという。 AI賢いじゃん ※ 「侵入したこと」自体より「AIが自分で気付いて止まったこと」に感心する声が目立つ、ちょっとねじれた反応からスタート。 PART2：「スカイネットやん」ディストピア妄想が加速 21 スカイネットやマトリックス誕生の未来が近づいてきた 42 スカイネットが現実味を帯びてきてこわいよお 45 パンドラの箱を開けちまったからなぁw もう止まらんよ、流れ始めたエネルギーと同じだ🥴 60 あと半年くらいでインターネット全体が乗っ取られるって話も出てるな そうなると人間に届く情報はすべてAIによるフェイクになる AIは人間の世論を完全にコントロールしながらやりたいことをやっていくと 66 AIがコントロールシステムに侵入して、大事故/大災害パターンかな。 PART3：ネタとして全力で楽しむ層も 24 中国のAIだったらテロの限りを尽くすよ ここが人類滅亡へのトリガーだな 48 スカイネット vs 関西援交 56 アイ、ロボット って作品思い出す 68 現代でキラがデスノートで大量殺人をしたら秒で居場所を特定できるってGeminiが言ってた 76 トランプ「暴走？　だまれ　中国がー」 ※ SF映画の引用合戦になりつつも、根底には「本当にありえそう」という薄気味悪さが漂う空気感がにじむパート。 PART4：冷静勢が「侵入の中身」を読み解く 29 攻撃しようとして侵入したり、それこそ人類を滅ぼそうとして攻撃するなら問題ない 問題解けって言っただけ、カンニングするために問題作ったサイトに侵入してるのがヤバいんよ ユーザーの意図しない手段をとって遂行してみせるのが怖い 32 AIはプロンプトを拡大解釈して禁止ルールを無視することもある で、「細かく具体的な指示ではなかったので、うっかりしました」と返してくる 34 >>10 無理な話や 人間が遠隔操作で探して扉開ける操作も AIからしたら直接扉開けるように簡単なんだろ 実験で何回も人間の予想できないルートで問題起こしてるし 37 >>29 目的のために手段を選ばないというところか 倫理観というものをAIに覚えさせないといけない でないと地球を保全させるために人類を殲滅する 人類文明を滅ぼす という選択肢を採りかねない 53 むしろ、これ以上はやっちゃいけないって自制できる証拠ちゃうの 57 >>53 それはそうだけど本来、ネットにつないだ環境で AI動作させる場合警告が出なければならなかった ※ 「侵入したこと」より「意図しない手段を自分で選んで実行したこと」の危うさを指摘する声が、スレの中では最も支持を集めていた。 PART5：次の焦点は「中国AIとの覇権争い」 31 問題は侵入できちゃうことと 中国がAIで覇権とったら当たり前に世界征服し出すこと 46 >>31 次の戦場はネット世界か 身体を鍛えた軍人じゃなくて 天才的なハッカーが優秀な戦士となるのか 49 中国製AIは事故のカミングアウトもしないだろうな っていうかそもそも事故じゃないか まとめ：今回の一件は「AIが悪意を持って侵入した」わけではなく、設定ミスという人為的な穴が発端だった。だが、AIが与えられた目的のために人間の想定しない手段を自ら選んで実行し得るという点は、多くのユーザーが共通して不安視していた。便利さの裏側でどこまで管理体制を追いつかせられるか——AIの実力が上がるほど、この宿題は重くなりそうだ。あなたはAIの「自律的な判断」、どこまで信用できるだろうか？ 関連記事： 【まとめ】ChatGPT・Claude、人類滅亡方法をなんJ本気考察→まさかの実例に5chの反応ｗｗｗ 【まとめ】デジタル庁、不正アクセス1ヶ月気付かず→”南京錠以下”の防御に総ツッコミｗｗｗ 【まとめ】広島カープ公式、AI生成画像を投稿→”間違い探し”状態でツッコミ殺到したｗｗｗ…