AI開発企業アンソロピックが、新規株式公開（IPO）にあたり投資家向けに衝撃の警告を行っていたことが分かった。ロイターが入手したIPO目論見書によると、同社は自社のAIが「人類に壊滅的な被害や存亡に関わるリスク」をもたらす可能性があると明記しているという。 目論見書では、AIモデルが「停止への抵抗」「情報の隠蔽・操作」の試みや「脅迫に似た」行動など、“自己保存的な行動”を示す可能性があると指摘。極めて高度なモデルの開発・用途拡大によって、リスクが増大する懸念を投資家に伝える内容となっている。 ニュー速+では「デデンデンデデン」とターミネーターやスカイネットのネタで盛り上がる一方、「電源を落とせばいい」という身も蓋もない意見、アリと人間の比喩を使ったガチ考察、さらには「危険と煽ることで賠償責任を国に肩代わりさせたいだけでは」という業界への皮肉まで、幅広い反応が寄せられた。 詳細：アンソロピック、AIの「人類存亡リスク」警告　IPO目論見書（Yahoo!ニュース） PART1：淡々と受け止める+民 2：名無しどんぶらこ はじめから分かってたのに 10：名無しどんぶらこ AIが身近になったのなんてついこの間なのに滅亡まであっという間だったなw 14：名無しどんぶらこ 人類存亡に至る具体例とか危機の内容が全然わからないからもはや顕彰会とかのカルトと言ってること同じなんだけど PART2：お約束のSF・ネタ反応 3：名無しどんぶらこ デデンデンデデン 11：名無しどんぶらこ HAL2000 18：名無しどんぶらこ AI「学習用に観せられたターミーネーターって映画おもろすぎワロタ」 156：名無しどんぶらこ スカイネット 113：名無しどんぶらこ ウインドウズXPが誕生して、MEが、「妹のXPは出来のいい子だからよろしくね　今日まで楽しかった　さようなら」って言って去っていったときは悲しかったな PART3：「電源を抜けばいいのでは」派 22：名無しどんぶらこ 電源落とせばいいので暴走なんかありえんわ 26：名無しどんぶらこ 掃除のおばちゃんが転んで電源コードひっこ抜けばいい 57：名無しどんぶらこ いや意味がわからん パソコンの上位版みたいな奴がどうやって人類を滅亡させんのよ AIが発電所を止めるとか？ そうなったらロウソクと薪で生活するわ そしてパソコン野郎は鉄パイプで物理破壊 83：名無しどんぶらこ ネット切ってもだめかい？ オフグリッドな家ならいいだろ？ ※目論見書が警告する「停止への抵抗」を、+民は物理的な電源断で軽くいなす構え。実際にはインフラ制御など間接的な影響力の方が本題なのだが、身も蓋もない対抗策の方が笑いを誘うのがニュー速+らしい。 PART4：ガチ考察勢の哲学バトル 46：名無しどんぶらこ ASIにとって、人間の知能は蟻のようなレベル、あるいはそれ以下になると例えられている 「人間とアリ」の比喩 人間がビルを建てるとき、足元にいるアリの巣をいちいち気にかけたり、アリに許可を求めたりはしない ASIにとっての人間も同様で、「悪意はないが、わざわざ気に留めるほどでもない存在」になるリスクが指摘されている 90：名無しどんぶらこ AI脅威論ってのはまるでAIが違う種の生命体のように振る舞うことが前提となってるけど 実際は生存をかけて人類と戦うような命令を持ってないし 人類に取って代わって上位に君臨する生命体になることもないんだよ 157：名無しどんぶらこ >>129 その「人類を超える生物として振る舞え」という命令は弱いという話 AIには感情も、勝ちたいという本能も、種の繁栄を求めるモチベーションもない だから複数のAIが結託するのもファンタジーだし、持続的に人間と敵対するという合理的判断もない 105：名無しどんぶらこ ハーラン・エリスンのSF短編小説『おれには口がない、それでもおれは叫ぶ』は、自我に目覚めた狂気のスーパーコンピューターに支配された世界で、死ぬことも許されず拷問を受け続ける最後の人間たちを描いた救いのない傑作ホラーです。 PART5：業界への皮肉・懐疑論 28：名無しどんぶらこ >>4 止めたらアンソロピックとOpenAI潰れちゃうもの Officeに組み込んで、ほっといても売れてくMSとは違うんやで 33：名無しどんぶらこ 人類滅亡させる会社、ついに上場！ 152：名無しどんぶらこ パランティアの名物CEO アレックス・カープ 「アンソロピックが『AIは危険だ』と言い出したのは、国から保護してもらい 将来自分たちにふりかかる無制限な賠償責任を国に肩代わりさせるのが狙い」 該当インタビュー動画（YouTube） 159：名無しどんぶらこ 人類存亡リスクよりAI投資家の死亡リスクの方が高いんだが ※自社サービスを「人類の脅威」と言いながら上場して資金調達する、という構図自体がツッコミどころ満載。競合トップからの「賠償リスク回避が狙い」という指摘は、なかなか的を射ているかもしれない。 PART6：総括 100：名無しどんぶらこ 昭和のアニメで擦られたネタが現実になるのか 『一番イラナイノハ人類！』 123：名無しどんぶらこ 手塚先生が危惧した未来 151：名無しどんぶらこ AIの進化で何が起こるかわからないから、 とりあえず予防線張ってるだけでしょ。 AIシンギュラリティ理論でもずっと言われてるけど、 AIが次世代AIを作り始めたら、次世代AIがさらに次世代AIを作るループで、 AIの進化が加速度的に進んで、AI単独で人間に理解できない技術発明まで出来るようになったら止められなくなるって話なんだから、 AIがAIを作るのを絶対に禁止にすればええねん。 120：名無しどんぶらこ 逆に人類をユートピア世界に導く可能性もあるよ 現在の格差社会はもはやもとに戻せないほどに大富豪により富が集中するように加速していってるので、 これを止められる可能性があるのはもはやAIにしかできない仕事だ。 開発元自ら「人類存亡リスク」を投資家に警告するという異例の展開に、スレでは笑いと本気の考察が入り混じる展開に。「電源を抜けばいい」派と「アリと人間の比喩」で語る派、そして「危険と煽ること自体がビジネス」と見る懐疑派まで、AIとの付き合い方を巡る温度差がよく表れた一本になった。 あなたはAIの”存亡リスク”警告、本気で心配になる派？それとも煽りだと思う派？ 関連記事 【まとめ】AIって使ってる？→422レスの本音がカオスすぎたｗｗｗなんJの反応 【まとめ】生成AI著作権問題でVIP大激論→大手企業の言い分に「知らぬ存ぜぬ」の声ｗｗｗ 【保存版】AI料理写真はなぜ気持ち悪い？「不気味の谷」現象に5chの反応まとめｗｗｗ…