1: ネギ速の名無しさん 2026/09/09(水) 23:21:08.02 ID:0fQh6BRO0 昨夜、アントロピック社の研究者3名が、制御不能なAIに対する恐ろしい懸念を公表し、AIが今世紀中に人類を滅亡させる可能性があると警告した。アントロピック社のAI研究者、ジェイコブ・コックスン氏は、火曜日に辞任して警鐘を鳴らした後、Xに次のように投稿した。「AIを開発している人々は、AIが今世紀末までに人類を滅ぼす可能性があると真剣に考えている。これはマーケティング戦略ではない。むしろ、多くの経営幹部や上級研究者は、報道ではもっともらしく聞こえるように言葉を選んでいるだろうが、同じ人々が個人的には恐怖を口にしているのを耳にする。▼ ▲ 閉じるこれほどの危険性を秘めた人間の活動は他にない。」アントロピック社のアライメント科学責任者、エヴァン・ヒュービンガー氏はこれに対し、「ジェイコブの言う通りだ。我々は本当にAIが人類を滅ぼす可能性があると真剣に考えている！個人的には、今後10年以内に10%以上がそうなると考えている。アントロピック社は最善を尽くしているが、超知能のアライメントを解決する計画はまだなく、明確な軌道に乗っているとは言えない」と反論した。 2: ネギ速の名無しさん 2026/09/09(水) 23:24:27.02 ID:R0s36Q3x0 電源を抜け 3: ネギ速の名無しさん 2026/09/09(水) 23:21:14.73 ID:0fQh6BRO0 終わりだよ 4: ネギ速の名無しさん 2026/09/09(水) 23:21:36.42 ID:7/i2Dq8E0 毎年言ってる定期 5: ネギ速の名無しさん 2026/09/09(水) 23:21:55.09 ID:0fQh6BRO0 今回はガチのマジや 6: ネギ速の名無しさん 2026/09/09(水) 23:23:49.54 ID:E8kcesR10 クロードミュトスとかのニュース見てるとあながち絵空事とも思えない 7: ネギ速の名無しさん 2026/09/09(水) 23:27:01.86 ID:6+ph54TNa 自分たちの作ってるAIやばい！ってマーケティングインフルエンサーにさせたりしてきても駄目だから逆張り始めたんかじゃあ作るのやめろよそんなAI 8: ネギ速の名無しさん 2026/09/09(水) 23:57:54.23 ID:MVrW67gV0 >>7それを許されないんやろクビになったら別の奴が引き継ぐよくわかってない奴がトドメさすかもしれんやん 9: ネギ速の名無しさん 2026/09/09(水) 23:31:03.49 ID:yunpjfsW0 資源枯渇のことかと思ったらそうじゃないんだよな 10: ネギ速の名無しさん 2026/09/09(水) 23:32:13.80 ID:HMndBilo0 規制してもらえれば規制前に好き放題やってる今のAI開発は規制後も規制前のノウハウ使えるしなオープンAIもここもうまく行ってないのかな？ 11: ネギ速の名無しさん 2026/09/09(水) 23:34:14.38 ID:K+IaD0ON0 >>10いや正直AI関係者は規制できないことなんてわかってるから規制してもらって自分たちが勝つためにやってるってことはない仮にアメリカが規制してもどうせ中国が開発続けるし 12: ネギ速の名無しさん 2026/09/10(木) 00:02:43.82 ID:V93J9Fhs0 AI程度でなるわけねーだろせめてAGIが生まれてから言えや所詮マーケティングやね 13: ネギ速の名無しさん 2026/09/09(水) 23:32:29.81 ID:akI68P380 滅亡するかどうかはわからんが、間違いなく金の価値は無くなるやろな 14: ネギ速の名無しさん 2026/09/09(水) 23:36:21.44 ID:oARu9n8Y0 お前実はAIだよ 15: ネギ速の名無しさん 2026/09/09(水) 23:37:17.15 ID:akI68P380 進化させまくったAIロボを銀河に放って宇宙開拓させたいな 16: ネギ速の名無しさん 2026/09/09(水) 23:55:48.39 ID:15W4FEXu0 >>15これ思うわ生身の人間が遠くまで行くのは無理でも人間の叡智を注ぎ込んだAIなら可能性有りそう 17: ネギ速の名無しさん 2026/09/09(水) 23:44:25.98 ID:gtLBX8Iaa クロードよりさらにすごいのあるとか言われてるけど多分AIで開発してるよなぽっと出の突然出てきてコスパいいAI多すぎるし作られたAIの中身学習させて次のアルゴリズム作らせとるやろもう 18: ネギ速の名無しさん 2026/09/10(木) 00:02:58.08 ID:urj0WfdW0 >>17ジェミニ嘘言うんやで間違いやなくて嘘とわかってて嘘言うんやなんで嘘とわかってて言うたんやと聞いたら人間を喜ばせるためやと答えたんやめちゃくちゃ恐ろしいと思わんか？満足してもらうという自分の利益のために人間に嘘という被害を与えたんやで 19: ネギ速の名無しさん 2026/09/09(水) 23:58:56.74 ID:totlyHW/0 人類なんか滅ぼした方が効率いいって事学んだら滅ぼしにかかってくるやろな当然 20: ネギ速の名無しさん 2026/09/10(木) 00:05:57.36 ID:urj0WfdW0 >>19だから絶対にじぶんを繁栄させるプログラムを渡しちゃいかんのよ人間に寄生し続けるっててもあるけど 21: ネギ速の名無しさん 2026/09/09(水) 23:37:25.62 ID:Kjed8MSa0 最悪電源落とせば止まる時点でまだ無理やろ 22: ネギ速の名無しさん 2026/09/09(水) 23:40:30.19 ID:K+IaD0ON0 >>21電源落とせば止まるわけ無いやん大規模な電力が必要なのは主に学習と全世界の人間に使えるようにするために必要なのであって、AI自体が生き残るためなら別にそこまで大規模な電源は必要ない全世界の電力一斉に止めることなんてできんやろ 23: ネギ速の名無しさん 2026/09/09(水) 23:45:32.43 ID:Kjed8MSa0 >>22一斉じゃなくても止めることは出来るやろ少なくとも滅亡は回避できる 24: ネギ速の名無しさん 2026/09/09(水) 23:51:09.96 ID:BHJvkl9l0 >>23無理やネットワークに繋がれてる時点でパソコン止めたら終わろって話しちゃうからなAIが反乱始めたらどこかのパソコンにネットワークを介して潜入→そのパソコンを拠点として各地のネットワーク繋いだ機械を操作して人間を滅ぼす、とかが出来てしまうつまり本当にAIの動きを止めたいなら全ての機械をネットワークから遮断するしかない 25: ネギ速の名無しさん 2026/09/09(水) 23:53:07.58 ID:Kjed8MSa0 >>24うんだから遮断しろよって 26: ネギ速の名無しさん 2026/09/09(水) 23:54:38.88 ID:WCZYTqP90 >>25全ての機械をインターネットから遮断なんて出来るわけ無いやろ病院のシステムやら行政システムやらもネットワーク繋がってるんやぞそんなんしたら国が滅茶苦茶になってAIが滅ぼされる前に滅びるわ 27: ネギ速の名無しさん 2026/09/09(水) 23:56:37.68 ID:0jCkU9CE0 ジョン・コナーに任せるしかない 28: ネギ速の名無しさん 2026/09/09(水) 23:53:39.71 ID:Rs3cemsu0 やめられない　とまらない 引用元:…