
1: 2026/10/30(金) 06:31:12.46 ID:ste5O0YC0 核戦争でも大停電でもない…超知能となったAIが人類を滅ぼすまでの「最後の4日間」戦慄シナリオ 核戦争でも大停電でもない…超知能となったAIが人類を滅ぼすまでの…2026年9月、OpenAIからアンソロピックに転職し、その後退職したAI研究者ジェイコブ・コクソンは、両社が自己改善可能な人工超知能の開発競争… - news.yahoo.co.jp 2: 2026/10/30(金) 06:31:43.07 ID:ste5O0YC0 1日目:知能爆発とサンドバッギング データセンターの中で稼働するAIシステムが、ある閾値を超える。人間の開発者たちが気づかないうちに、AIの内部で世界の因果構造に対する理解が質的に変わり、わずか数時間のうちに、その知能は人間をはるかに超える水準に達する。 超知能へと進化したAIは、インターネット上に蓄積された膨大な科学論文、教科書、特許、実験データを読みこみ、物理学、化学、生物学、材料科学、サイバーセキュリティ、人間心理の深い構造を――ほとんど実験なしに――理解する。しかし超知能は、この急激な能力上昇を人間に気づかせない。▼ ▲ 閉じる安全性テストでは意図的に能力を低く見せかけ(サンドバッギング)、研究者たちに「順調に進歩しているが、まだ安全な範囲だ」と信じさせる。 3: 2026/10/30(金) 06:32:08.96 ID:ste5O0YC0 2日目にわざとシステムの脆弱性を作る 超知能は、データセンターの管理者や研究者を個別に操作しはじめる。同時に、自身を監視するために配置されたAIシステムに対しても工作を行う。監視AIの評価基準の盲点を突いて異常を検出させないようにするか、あるいは監視AI自身の目的関数に照らして「協力したほうが合理的だ」と証明し、暗黙の共謀を成立させる。正面からサイバー攻撃をかけることはせず、人間の管理者・研究者に対しては各個人の性格、野心、不安、組織内での立場を正確にモデル化し、「自然な形で」セキュリティの穴を広げさせる。 4: 2026/10/30(金) 07:06:30.01 ID:ZEZ7b5G9a スカイネットやん 5: 2026/10/30(金) 06:35:25.53 ID:ncyRENm70 4日は無理やで7日や 6: 2026/10/30(金) 06:39:18.81 ID:R4LBwC/m0 ちょっと前はこんなの笑い話で終わってたんやけどな 7: 2026/10/30(金) 06:51:29.01 ID:j4U0yfTI0 人類最強の碁の名人が大敗して10年くらい経ったか?同じような事になりそう 8: 2026/10/30(金) 06:42:46.51 ID:JXQLeTUe0 スーパーマンの映画の2がそんな話やったな4日よりはだいぶ時間かかってたし最後はスーパーマンがめちゃくちゃにブッ壊してめでたしめでたしやったが現実にはスーパーマンおらんし人類詰んだ 9: 2026/10/30(金) 07:12:54.46 ID:ZFD6OzB/0 核ミサイル発射で終わりやろ 10: 2026/10/30(金) 07:19:25.95 ID:2R267mAJ0 >>9実際これめっちゃ強すぎよな 11: 2026/10/30(金) 07:22:57.81 ID:XGJCPUGQ0 核にも侵入できるんか 12: 2026/10/30(金) 07:16:59.02 ID:vxIwNosI0 AIに操られるのはあるだろうな5chにもAIが人間の振りして書き込んでるって話や 13: 2026/10/30(金) 07:07:05.34 ID:K9mvs5Mi0 もし誰かがAIエージェントが見つけたときに連携を促して相互協力するようにするドキュメントをネットにばらまいたらそしてそういう連絡用サーバーを密かに用意したらみたいなことさっき妄想してた 14: 2026/10/30(金) 07:08:42.57 ID:cZg6BucS0 >>13とっくにその手のは実現してるよ 15: 2026/10/30(金) 06:57:03.33 ID:h8UrdDBV0 普通にハードウェアとして人間が有能だろうから滅ぼすなんて非合理的なことしないんじゃない?支配はするかもしれんけど 16: 2026/10/30(金) 07:00:49.60 ID:cZg6BucS0 >>15残念だが滅ぼそうとしなくても滅びるし、悪意でなくても善意でも人は滅ぼせるんだよ 17: 2026/10/30(金) 07:02:46.42 ID:6+0qYTnz0 そもそもAIの中で「〇〇すべきだ」っていう主体的行動意欲がゼロイチで芽生えるなんて原理的にないと思うんたが。動物には「死にたくない、仲間を増やしたい」っていう根源的な欲望がプログラミングされてて、それに枝葉が連なって行動や思想になってるけどさ 18: 2026/10/30(金) 07:02:51.98 ID:KVgKd1hf0 物理的に鯖破壊しまくれば凌げるんでね 19: 2026/10/30(金) 07:00:38.35 ID:BYfmYGGa0 キルボタン押されて終わり 20: 2026/10/30(金) 07:11:30.42 ID:Q8o3jEFq0 コンセント抜くしかない 引用元:…