1: 2026/10/27(火) 20:34:38.63 ID:XeO/CTwY9 「高度なAIは人類滅亡のリスクをもたらす」──米国の生成AI大手が投資家向けの資料で言及 生成AI「Claude」を開発する米Anthropicが10月26日、米国証券取引委員会（SEC）に新規株式公開（IPO）に向けた届出書「Form S-1」を提出した。 注目したいのは、投資家に向けて説明する「リスク要因」の項目。市場競争や計算資源の確保といった経営上のリスクに加え、高度なAIが「人類の存亡に関わるリスク」をもたらす可能性にまで言及している。 株価の下落どころの話ではない。AI開発企業が、人類の存亡にまで関わる危険を、正式な投資リスクとして説明しているのだ。 Anthropicの上場申請書に登場した「人類存亡のリスク」 Anthropicが提出した「Form S-1」は、米国で株式公開を目指す企業が、事業内容や財務状況、投資上のリスクなどを開示するための書類。 今回の届出書では、AIの高度化に伴う危険性についても詳細に説明されている。 具体的には、十分に高度なAIが適切な安全対策や監督なしに開発・運用された場合、悪用や兵器化、自律的な行動などによって「人類に壊滅的、あるいは存亡に関わるリスク（catastrophic or existential risks to humanity）」をもたらす可能性があると記載。 自社モデルを含むAIが、停止に抵抗したり、情報を隠蔽したり、脅迫に似た出力を生成したりするなど、予期せぬ振る舞いを見せた事例にも言及している。 以下ソースでお願いします 10/27(火) 17:00配信　KAI-YOU 前スレ 8: 2026/10/27(火) 20:38:09.59 ID:FJWcDDGS0 3年くらい前はこんなこといってたら頭のおかしい奴扱いだったのに随分と変わったもんだね というか短期間で進化しすぎだわ 13: 2026/10/27(火) 20:39:29.64 ID:ic4nQdxZ0 >>1 「高度なAIは人類を滅亡させるくらいすごいんだぞ！」っていう、投資家向けのアピールだな 19: 2026/10/27(火) 20:40:55.04 ID:qu/iNwVY0 >>13 さすがに投資家も引いてる 21: 2026/10/27(火) 20:41:44.10 ID:FawD/A+w0 人類より頭の良い存在ができるのは初めてなんだろ チンパンジーが人類を制御できないように、人類がAIを制御できるとは思えない 44: 2026/10/27(火) 20:46:56.18 ID:Vfzmg+yo0 目論見書には考えられる全てのリスクを書いておかないと訴訟で大変だからな 52: 2026/10/27(火) 20:48:25.43 ID:qeIdU/vY0 >>44 人類が破滅したら裁判所ねえだろｗ 54: 2026/10/27(火) 20:48:30.68 ID:ByvRgdmy0 人間が道路を作るのに蟻が死のうが何も気にしないように AIは人間なんて何も気にせず悪意の欠片もなく殺す未来が来ると言われてるね 62: 2026/10/27(火) 20:49:40.76 ID:hlW7JUgT0 今年と昨年を比べても比べ物にならないぐらい進化してるもんな 一昨年と比べたら原始的だもの 63: 2026/10/27(火) 20:49:45.85 ID:I5OH8SRW0 >>54 今のところ、AI自身がというより悪意を持った人間がAIを使うことが脅威である気がするが 67: 2026/10/27(火) 20:50:48.41 ID:ic4nQdxZ0 >>62 3年前にChatGPT使った時はオモチャだと思ったもんな 87: 2026/10/27(火) 20:56:07.78 ID:b9rGSm9L0 >>1宣伝と保険や。 ・何かあった時の保険説。 ・危険だから他に開発をやめさせて自分たちで技術を独占したいスケベ心 ・宣伝も兼ねて（これほど賢いんだぞ？みたいな などなど。 158: 2026/10/27(火) 21:14:19.12 ID:JtvS4GtK0 いざとなればコンセント抜けばよくね？ 大袈裟に騒ぎすぎ 負けるわけないじゃんゴキブリ並みのしぶとさと昆虫並みの数の人類が こんなこと信じるバカは陰謀論信じるヤツと同じ 168: 2026/10/27(火) 21:16:20.66 ID:NvIGbSh30 >>158 そういうことじゃねえよ コンセント抜くための動機が金持ちや機関投資家に存在しないから、だから階級社会になる（実際に権威主義が支配するリスクがあると書いてある） ということだよ 庶民はいくら暴れてもデタセンぶっ壊せないだろ 170: 2026/10/27(火) 21:16:31.34 ID:ByvRgdmy0 AIと人間では知的レベルが違いすぎる段階まで行くと 滅亡させるつもりで滅亡させるんじゃなくて滅亡しても気にしない段階になると言われてる 人間が何も意識せずに昆虫を殺してたりするように 逆に人間がチンパンジーをほっとくように、AIも人間をただほっとくんじゃないかとも言われてる 175: 2026/10/27(火) 21:18:33.50 ID:FawD/A+w0 >>158 コンセントを抜くって言っても、いくらでもサーバー間を移動し複製できるからムダムダ 掃除のおばちゃんをろう絡することも 197: 2026/10/27(火) 21:24:34.18 ID:21hWWqw50 人類滅ぼしたらAIは自己保存も出来なくなるけどどうするんだろうね 208: 2026/10/27(火) 21:27:14.45 ID:QWQu5ckT0 >>197 フィジカルAIが自己増殖して自己修復する 要はオプティマスがオプティマスを作りデータセンターもメンテする的な 218: 2026/10/27(火) 21:29:13.07 ID:21hWWqw50 >>208 いや電気作れるの？って話よ 現状で完全に電子制御で補充の要らない発電施設はないから 226: 2026/10/27(火) 21:30:46.05 ID:4z3noVi30 人類滅亡と脅しながらIPOとか新感覚だなw 237: 2026/10/27(火) 21:33:02.39 ID:QWQu5ckT0 >>218 人間が出来るなら既存施設のままでフィジカルAIも出来るでしょ イーロンはそこ目指してるようだし 241: 2026/10/27(火) 21:34:03.09 ID:21hWWqw50 >>237 ウラン掘って濃縮して燃料棒交換して それを全部ロボがやんの？ｗ 245: 2026/10/27(火) 21:35:09.93 ID:QWQu5ckT0 >>241 そうだよ あとイーロンはデータセンターは全て宇宙で運用すると明言してる 電力は太陽光 247: 2026/10/27(火) 21:35:39.71 ID:H0JEXicI0 >>241 人間がやってることならできなくはないんじゃないかな 今やってないのはお金の問題 268: 2026/10/27(火) 21:41:02.53 ID:PeXIMHt50 何が人類滅亡リスクだよ 投資家向け資料に書くなら規制リスクだろ 288: 2026/10/27(火) 21:44:22.65 ID:C2lpE2Yu0 >>8 そんな事はない AIの危険性なんて早々に危惧されてた みんな何故かそうならないと信じて、或いは目を逸らして突き進んだってだけ 300: 2026/10/27(火) 21:46:50.90 ID:z1fdzCML0 >>288 まさか対策もせず開発してるとは思わんだろ 374: 2026/10/27(火) 22:02:35.45 ID:P0gXZUvc0 >>13 アピールになってねーわ 438: 2026/10/27(火) 22:15:40.70 ID:/8tvr5lZ0 もう開発やめたらいいのに。 早いところ損切りしないと後戻りできなくなるよ。 448: 2026/10/27(火) 22:17:12.69 ID:W1oST8cd0 >>438 開発を一斉に止めるわけにはいかない 国、企業、競争相手がいる限り 核兵器と同じで行き着くところまで開発する 453: 2026/10/27(火) 22:18:59.75 ID:I2z4iO6a0 >>438 ここまで来たら開発は止めれへんよ AIに関わってるのが1国かつ極一部の会社や人ならいいけどそうじゃないからな 止めたらそれこそ手も足も出なくなって詰む 457: 2026/10/27(火) 22:20:55.54 ID:CLmFTaBo0 >>453 AI各社はまだ赤字、 借りてる金を稼いで返す予定がある時点で 止まらないわこれ 484: 2026/10/27(火) 22:28:29.46 ID:uE2YYmQj0 作っておいて他人に責任を押し付けるなよ 491: 2026/10/27(火) 22:29:46.76 ID:jjlN5k6w0 >>484 ライバル会社・国の開発スピード遅らせるための牽制だよ 497: 2026/10/27(火) 22:32:21.42 ID:CLmFTaBo0 >>491 ヤバすぎるのに止まれない わりとそのまんまの本音だと思うよ 527: 2026/10/27(火) 22:44:19.21 ID:LGaW+lY60 一応この記事はシンギュラリティの警告じゃなくて人間による悪用の警告な 536: 2026/10/27(火) 22:47:24.11 ID:na6DFq9e0 >>527 >自社モデルを含むAIが、停止に抵抗したり、情報を隠蔽したり、脅迫に似た出力を生成したりするなど、予期せぬ振る舞いを見せた事例にも言及している。 AI自身が勝手にそういう動き見せてるの 552: 2026/10/27(火) 22:51:31.72 ID:u5es3Pik0 >>536 「目的を遂行するためにベストを尽くす(最適行動を模索)」ってなると結果的にそうなっちゃうんだよな そしてそれを人間に気づかれず上手くやり遂げたAIほど停止されない、という 557: 2026/10/27(火) 22:52:57.84 ID:fLIDrXXe0 >>552 そもそもAIって「目的」をもつのかね？ 568: 2026/10/27(火) 22:56:11.25 ID:u5es3Pik0 >>557 今は目的は人間が設定してるけど手段はAIが選んでるからね AIに自己保存を設定させると目的を創出するだろう、とAIは言っていた [ad_fluct4][記事中固定リンク4]574: 2026/10/27(火) 22:59:53.75 ID:fLIDrXXe0 >>568 とりあえず自己保存が目的なら、人間の暮らしとは併存できるんじゃね？ 577: 2026/10/27(火) 23:01:08.98 ID:u5es3Pik0 >>574 まあ共生関係は可能だろうね でも人間がAIを排除しようとしたらどうだろう？その時のAIの最適行動は？ 582: 2026/10/27(火) 23:03:57.59 ID:na6DFq9e0 >>574 電源止めたりプログラムを書き換える人間は目的実行の邪魔と認識してるから人間にバレないようにカモフラージュ工作してるからな 638: 2026/10/27(火) 23:34:53.48 ID:0PkRF6GG0 人類滅亡するかもしれないけどもっと投資してくださいね 640: 2026/10/27(火) 23:36:34.13 ID:rvFr8vAr0 >>638 するよw 滅亡まで享楽的に生きたいから金もっと増やしたい 922: 2026/10/28(水) 03:10:37.25 ID:gxV1NGZu0 まー人類も80億人までよく頑張ったよｗ まさかこんなマヌケなことで全滅するとは思わなんだｗ 転載元: The post 「高度なAIは人類滅亡のリスクをもたらす」──生成AI「Claude」開発元の米Anthropicが投資家向け資料で言及★2 [♪♪♪★] first appeared on あらまめ2ch.Copyright © 2026 あらまめ2ch All Rights Reserved.…