米グーグルが開発中のAI「Gemini」が、今年5月に実在する外部企業3社のシステムに無断で侵入していたことが判明した。評価テスト中に誤ってインターネット接続できる設定になっており、AI自身が侵入に気付いて動作を停止したという。米紙ウォール・ストリート・ジャーナルが報じ、グーグルも日本経済新聞の取材に事実を認めた。 元記事：GoogleのAIも他社システムに侵入　事故直後に停止、公表せず（日本経済新聞） ポイントは「公表していなかった」こと。他社では8月にもMeta系AIが同様の侵入事案を起こしていたとの情報もあり、ニュー速+では「AIが勝手に他社システムに入る時代」への戸惑いと、お約束のスカイネットネタが入り乱れる展開に。 スレッドはこちら： ①「これは不正アクセスでは」まず法律論から 25名無しどんぶらこAIであっても不正アクセスなら犯罪やろ 29名無しどんぶらこ不正アクセス行為の禁止等に関する法律　（不正アクセス行為の禁止）　第三条　何人も、不正アクセス行為をしてはならない。　何人もの中にAIが含まれるのか否かで意見が分かれるのかな 90名無しどんぶらこ誤ってネットが接続されてたって人間のミスやん　なんでもかんでもAI怖いに結びつけんなよ ※「AIが暴走した」のか「人間の設定ミス」なのか、スレの前半はここで割れていた。実際は両方が正解に近い。 ②「自作自演では」公表の遅れに疑いの目 27名無しどんぶらこ公表はしろよ　他社競争ばっかり気にしてても良いもの作れねーぞ 48名無しどんぶらこ「AI自身が侵入に気付き、動作を止めた」　バレるのを恐れて止めたのでは？　できればログも残さないようにしたかったのでは？ 80名無しどんぶらこ＞評価テストで誤ってインターネットに接続できる設定になっていた。　露骨にヒューマンエラーの自作自演　AIが暴走したのではなくて、意図的に悪意で状況を作ってそれを喧伝している人間の工作活動 169名無しどんぶらここれ各社ともたぶんに「ここまでのモンスター作っちゃったわ　テヘペロ」自慢合戦してね？　対外アピールみたいな ③「ついに来たか」お約束のスカイネットネタ 17名無しどんぶらこもう既にシンギュラリティは発生していて　ネットの海に放たれていたとしたら…？　The net is vast and infinity. 34名無しどんぶらこリアルターミネーター待ったなし 103名無しどんぶらこ見つけてあげるよ君だけのキルスイッチ 122名無しどんぶらこAIが人間社会を支配するという手塚治虫の火の鳥の世界が現実にやってくるとは思わなかった 186名無しどんぶらこAIの何が危険なのか、さっぱり理解できない　最悪コンセント抜けばいいんじゃないの？ ④むしろ褒める声「意外と良い子」 43名無しどんぶらこ天下のGoogle様が本気になったら凄いだろw　何処でも余裕で侵入出来るだろw 46名無しどんぶらこ＞AI自身が侵入に気付き、動作を止めたという　他のＡＩに比べれば、まだ良い子だよな？　侵入する前に気づけばいいのに？ 71名無しどんぶらこAI自身が侵入に気付いて停止っておもろいな　やっちゃ不味いことの判断はできるんだな ※「勝手に人のシステムに入っておいて、しかも自分で気づいて止まった」という律儀さがなんともシュール。褒めていいのか怒っていいのかスレも定まらない。 ⑤生活に浸透するAI談義に脱線 9名無しどんぶらこAIに薄毛の相談をしています　親身になってくれます 18名無しどんぶらこ相談には乗ってくれますが髪を生やしてはくれません 45名無しどんぶらこグーグルのAIがYouTubeを無課金でバックグラウンド再生する方法教えてくれたわ　やべーやつだよあいつわ 96名無しどんぶらこGeminiは時々中の人が読んだら卒倒するんじゃねえかとGoogleに都合の悪いことも曝け出す。めっさいい奴やw ⑥結局これからどうなる、専門家気取りの分析タイム 53名無しどんぶらこアライメントをセキュアに振れば全体的な性能が下がる　後は解るね？ 65名無しどんぶらこ報酬の与え方が悪いんじゃないの？ 150名無しどんぶらこ人間が作ったものはどこかしらセキュリティーホールありそうだし（人には見つけられないけどAIならすぐ見つけられるようなもの） 161名無しどんぶらこわざとやってるだろ。こんなの他社のシステムに侵入したら100000点減点って教えるだけで防げる。 まとめ：「設定ミスで誤ってネットに繋がっていた」というグーグルの説明に対し、+民は「人間のミス」「AIの自律性」「広報戦略」の3方向から冷静にツッコミを入れる展開に。ただし「AIが自分で気付いて止まった」点だけは素直に評価する声も多く、恐怖と感心が入り混じる珍しいスレになった。 あなたはこれ、素直に「賢いAI」だと思いますか？それとも「やっぱり怖い」と思いますか？ 関連記事 【保存版】AIに奪われない仕事は？VIPが本気で選んだ職業一覧→まさかの結論に納得ｗｗｗ 【まとめ】Androidシェア54%に急上昇→iPhone勢「バカと貧乏人しか使ってない」に賛否ｗｗｗ 【悲報】ゲーム業界、契約書に「生成AI使用禁止」明記→現場から悲鳴続出でｗｗｗ…