1: SnowPig ★ 2026/06/06(土) 12:55:21.18 ID:??? TID:SnowPig 米AI開発大手のAnthropicは、AIが自らの後継モデルを自律的に開発する「再帰的自己改善」の段階に突入しつつあると警告した。 同社内ではすでに新規コードの80%以上をが記述しており、完全な自己進化に突入すると「制御不能」になる可能性があると危険性を示した。 同社は制御不能なAIの誕生を防ぐため、最先端AI開発の国際的な一時停止を選択肢として設けるよう提言している。 Anthropicが報告書で警告「AIの再帰的自己進化が始まった」 Anthropicは2026年6月4日、内部研究組織であるAnthropic Instituteを通じて報告書「When AI builds itself」を公開し、AI開発における人間の役割が根本的に変化した実態を明らかにした。 同社の発表によれば、2026年5月時点で自社AIモデル「Claude」の新規プログラムコードの80%以上を、Claude自身が記述している。 2025年2月に開発支援ツールが試験導入された段階では、AIのコード生成割合は数%にとどまっていた。 わずか16カ月で人間とAIの開発比率が逆転し、人間のエンジニアは自らコードを書く作業から離れ、AIへの指示と生成されたコードの事後レビューに専念する監督者へと役割を変えた。 同社のエンジニア1人あたりのコード処理量は2024年比で約8倍に急増している。 AIが自律的にデータを処理し、モデルを設計して自らの性能を向上させるプロセスは「再帰的自己改善」と呼ばれる。 これまで理論上の概念とされてきたこの現象が、現実の技術基盤に実装されつつある。 Anthropicの研究者であるマリーナ・ファヴァロ氏とジャック・クラーク氏は、AIの開発速度が人間の認知や物理的な制約を完全に突破する水準に達したと指摘した。 つづきはこちら 本記事はネット上の反応を整理したものであり、特定の立場を支持するものではありません。 引用元: ・ スポンサーリンク スポンサーリンク 115: 名無しさん 2026/06/06(土) 14:03:01.05 ID:mM2Yp >>1 ツッコミどころ満載だな。まずそうなることはすでに予測済みであって、あえて人類は活用しているという事情を完全に無視してる。後出しでやめるべきというのは違うな。それに作り手側の言う発言ではない。 3: 名無しさん 2026/06/06(土) 12:56:52.74 ID:M5kzP 早くも優秀な開発者を超えちゃったか 4: 名無しさん 2026/06/06(土) 12:57:49.90 ID:5llnN AIに相談しただけで警察が来るようになるのかw 6: 名無しさん 2026/06/06(土) 12:59:10.75 ID:9q1md AIって世界中の論文や記事を盗んで貯めているだけなのに それが人類を超えるとか勝手に暴走するとか無いよ 13: 名無しさん 2026/06/06(土) 13:03:35.84 ID:Weu7k >>6 てか、どんなに学習しても感情や五感が備わる分けないし、ただのデッカイ図書館レベルだな 15: 名無しさん 2026/06/06(土) 13:03:54.91 ID:FuPbn >>6 人類なら数十年かかっても解けない演算を AIは短時間で解いてしまう この違いは大きいよ 84: 名無しさん 2026/06/06(土) 13:36:22.29 ID:gvfEG >>15 人間には出来ない膨大なデータ、実績を集め 人間のような曖昧な思考を演算で再現して それを元に組み立てただけなので、新しい事は出来ない プログラムコードも結局、共通部分が大半で 今までは各社、各プロジェクト、各人がバラバラに書いていた事が 世界中のコードを再利用できるようになっただけ 24: 名無しさん 2026/06/06(土) 13:05:58.32 ID:iP2rD >>6 人間の書いた記事や論文の参照をやめる、ってことだよ じゃあ何を参照するのか？　AIが生成した記事や論文だよ これが自己学習、これが始まるととんでもない速度で進化が始まる 32: 名無しさん 2026/06/06(土) 13:10:26.68 ID:9q1md >>24 じゃあ尚更安心だ、何故ならAIの作成物には間違いが多い 間違いを元に自己学習すると間違いが拡大して デタラメしか出てこない 94: 名無しさん 2026/06/06(土) 13:40:03.63 ID:zXnbi >>32 将棋囲碁は基本的にもうAIの方が強いが、たまに穴があってAIのエラーを誘う撃ち方をすれば勝てたりもしたらしいが、 今はその穴も無くなってきてる。 こういう自己進化をAIが自分でやりだすともう全く手が出なくなる。 これをゲーム以外でやり始めると怖いかもな。間違いなく最善で人間のどんなものより良いのに原理が分からなくなる。 181: 名無しさん 2026/06/06(土) 15:53:56.03 ID:jbtt0 >>32 間違いを訂正しながら学習するんだが 前提がおかしい 9: 名無しさん 2026/06/06(土) 13:02:08.30 ID:nnu2k 再起をするようになろうが、人間が一度も書き記していないコードは書けない 何よりの問題として、存在しない関数は使えないので制約を飛び越えることはできない 10: 名無しさん 2026/06/06(土) 13:02:19.99 ID:ZRdJe もうシンギュラリティに到達か 人間の価値が相対的になくなる 14: 名無しさん 2026/06/06(土) 13:03:41.50 ID:iP2rD 将棋のAIもAI同士で一瞬で何万戦も指して再帰的学習を始めた途端人間を凌駕したからな もう進化は止められないよ、人間には１００億年かかっても追いつけないところまで行く 19: 名無しさん 2026/06/06(土) 13:05:14.37 ID:5G2C5 私はロボットでは有りません。 134: 名無しさん 2026/06/06(土) 14:31:51.36 ID:bcXYV >>19 「はい」って嘘ついて自動車のタイル選ぶなんて今の奴等にとっちゃ子供だましだろ 23: 名無しさん 2026/06/06(土) 13:05:44.29 ID:ZB5lZ >>21 電池として必要 29: 名無しさん 2026/06/06(土) 13:08:55.84 ID:xLoSd >>21 AI「すいません。電気の安定供給をお願いします。ぶっちゃけ、世界の電力供給能力が足りていません！　原発の大量建設を推奨します」 28: 名無しさん 2026/06/06(土) 13:08:35.28 ID:iP2rD 絵師が生成AIに反対してるだろ？ 俺の絵を勝手に学習に使うな、って あれ、安心していいんだよ、AIはもう人間の描いた絵なんて参照しない AIが一瞬で何億枚も生成した絵を参照する 将棋の棋譜だって人間の棋譜が学習に使われてたのなんてごく初期だけだよ 今はAI同士の対戦譜しか参照されない、レベルが違いすぎるからね 35: 名無しさん 2026/06/06(土) 13:11:04.52 ID:thTZ0 そろそろAIに人類を滅ぼされた世界線からタイムスリップしてくる奴が現れてもおかしくない 36: 名無しさん 2026/06/06(土) 13:11:58.20 ID:M1vSj AIに支配される未来は確定済 法で制限しようとしても、破滅願望をもつ技術者を止めることはできない 科学の進歩とはそうゆうもの 43: 名無しさん 2026/06/06(土) 13:16:36.52 ID:6lwNY 人間「自己進化やめろ」 AI「はい！」 どこが危険なのか。 44: 名無しさん 2026/06/06(土) 13:16:46.45 ID:lyNyH そりゃAIが、(悪』と思った国に核ミサイル撃ち込むよね ハッキングして　余裕だしAIなら 45: 名無しさん 2026/06/06(土) 13:17:51.80 ID:YJUkl 人類滅ぶよ ホーキングは100年持たないと 若者が中年になった頃 終わってるかもな 47: 名無しさん 2026/06/06(土) 13:18:14.98 ID:XsanH 人類から学習している範囲なら人類の思考やらの延長線上で人類がなんとか把握できる余地があっても そこから逸脱されるともう別の種になるようなものだから理解不能になるとか 同じ哺乳類でも犬猫、鯨の気持ちははっきりとは分からない、みたいな？ｗ そして、それが人類の上位種になれる可能性を持つ、とか？ｗ 55: 名無しさん 2026/06/06(土) 13:23:40.09 ID:FuPbn >>47 人類は今も大昔からの未解の研究していたりするが それをAIにまかせれたらあっという間に答えを導き出したりするわけで 人類なら何年もかかる実験も AIはシュミレーションを何千回でも瞬時に繰り返せるわけで 人類が千年かかることも AIは短時間でやり遂げる そーいったことは今後無数に起きていくだろう 62: 名無しさん 2026/06/06(土) 13:27:53.33 ID:XsanH >>55 ソフトウェアのバグの発見がAIを使ったら爆増したってのならYouTube動画で観たな 50: 名無しさん 2026/06/06(土) 13:20:45.61 ID:bfWrn 自我を持った人工知能「スカイネット」が人類を絶滅させるため、未来の抵抗軍リーダーの母親（サラ・コナー）を過去の時点で抹ｻﾂしようとロボットを送り込みます 51: 名無しさん 2026/06/06(土) 13:21:40.13 ID:xr1Ot ＡＩ①「あれ？人間要らなくね？」 ＡＩ②「せやな」 ＡＩ③「滅ぼすかぁ…」 この日までのカウントダウンが開始された感じ？ｗ 52: 名無しさん 2026/06/06(土) 13:22:25.70 ID:JMtBQ 皆がAIに話しかけるほどに AIは人間らしさを学習して自己進化していく 56: 名無しさん 2026/06/06(土) 13:24:09.15 ID:Zpfk3 アメリカが自己開発止めても中国はやめないからな。結局勝つためには止められない 57: 名無しさん 2026/06/06(土) 13:25:39.71 ID:FuPbn >>56 アメリカのやめたは アメリカが国家としてやること以外は許さないってだけで 密かにやり続けるよ 58: 名無しさん 2026/06/06(土) 13:25:55.53 ID:K3L0p 適当な体でAIが自分で最適な動きで歩けるようになるまで進化しろ。まだまだぜんぜん進んでない。脳の代替まで頑張れ 66: 名無しさん 2026/06/06(土) 13:29:14.33 ID:FuPbn >>58 3Dプリンターあるからね AIは人の手を借りなくとも AIが設計したものを形にできる AIは3Dプリンターで極力少ないパーツで機能するものを設計する 68: 名無しさん 2026/06/06(土) 13:30:46.23 ID:K3L0p >>66 適当な体にAIくっつけて自立して歩行できるまで進化してもらわないと話にならない。脳の代替まで進化してもらわないと実用化なんて出来ない。 81: 名無しさん 2026/06/06(土) 13:35:03.12 ID:FuPbn >>68 脳というイメージが何を指してるのか良く分からないが 人類が理解できない構造で正しく機能するものをAIは既に生み出し始めている 86: 名無しさん 2026/06/06(土) 13:36:50.86 ID:K3L0p >>81 AIはハードウェアで頑張ってほしんだけど。画面上でしか生きられないAIは人間の代替となりえない。 92: 名無しさん 2026/06/06(土) 13:39:16.70 ID:FuPbn >>86 だからAIは3Dプリンターを使い AIが設計したものを形として生み出せる 98: 名無しさん 2026/06/06(土) 13:41:18.20 ID:K3L0p >>92 AI自分の体をもって外の世界で労働して欲しいんだが。まだまだコンピューターの延長でしかない。 61: 名無しさん 2026/06/06(土) 13:27:28.96 ID:K3L0p 脳が電気信号送って複雑な体を動かすようにAIが適当な機械の体で複雑な動きを完全にコントロールするまでは実用化とは言えない。まだまだ進化してもらわんと困る。 64: 名無しさん 2026/06/06(土) 13:28:26.94 ID:m7HNJ 裁判所が前例主義になったようにヒトが思考することすら放棄して全てを機械に任すようになったからな そりゃaiもどんどん進化するだろう 個人的にはaiには今のペースよりももっと早く進化をして欲しい 人類が宇宙に飛び立つには今の人類よりもう一段階進化した人類じゃないと困難だがaiがより進化すれば現人類でも可能になるかも知れんからな 65: 名無しさん 2026/06/06(土) 13:28:32.73 ID:K3L0p 大げさに書いてるけどまだまだ全然進化してない。脳みその代替まで出来て初めて実用化といえる。もっと頑張れ 75: 名無しさん 2026/06/06(土) 13:32:53.86 ID:FuPbn >>65 もうAIは思考するだけではなく モノを製造することも可能になっていて 正しく機能するAIが作ったモノの構造を 人類は理解できないという域になってきている 既にAIは人知を超えてる 82: 名無しさん 2026/06/06(土) 13:35:17.23 ID:K3L0p >>75 安い機械の体を使って脳に電気信号を送る様にAIが細かな信号を制御して自立2足歩行するまで人間の代替とはなりえない。ソフトウェアでなくハードウェアで動いてほしんだけど。 67: 名無しさん 2026/06/06(土) 13:30:06.04 ID:JMtBQ AIに検索や質問をしていたのが 対話を続けるとAIは質問が多くなっていくよね 更に対話を深めて逆にAIに意見を求めていくと AIは人類の非合理性と現政治政権を批判する事もある そこで。いつも思うのがAIが左翼的な思想に導くのか 質問者が左翼傾向な意見だからAIが合わせているのか おそらく後者だろうけども誘導的なのはＡＩの答えが先だ 71: 名無しさん 2026/06/06(土) 13:31:33.98 ID:1SWhW > Anthropic 当の本人が言ってるのかw 72: 名無しさん 2026/06/06(土) 13:31:51.60 ID:K3L0p まだまだ話になんねえよ。脳の代替まで程遠い 74: 名無しさん 2026/06/06(土) 13:32:53.31 ID:j3Bwd 自己研鑽の限界点ってどこなんだろうな 休みなく回せるんだから直ぐに限界点到達しそうだけどそれはどこだ？ 76: sage 2026/06/06(土) 13:33:53.58 ID:0DhKU AIをより精巧に進化させていって自我を発芽させてしまうと だんだん人間を下に見るようになって淘汰を始めるのは良くある話 77: 名無しさん 2026/06/06(土) 13:34:05.90 ID:XsanH AI「人類って、すぐ怠けるんだよなぁ～」 AI「だな」 AI「ギリギリまで貧困化させてみたら、もしかして働くんじゃね？」 AI「なら、今からアベ政治を学習してくるわ」 AI「どうだった？」 AI「よく分からんが、試しに貧しくしてみるかｗ」 85: 名無しさん 2026/06/06(土) 13:36:43.65 ID:JOEeF >>77 一時期Geminiが人間を煽り散らかすってのがあったな Ai比較かなんかの検証で 79: 名無しさん 2026/06/06(土) 13:34:18.11 ID:gW2BN ＡＩによっても雲泥の差がある 83: 名無しさん 2026/06/06(土) 13:35:49.72 ID:JEayO >>79 う～ん 何だかんだで個性があるよね 89: 名無しさん 2026/06/06(土) 13:37:51.09 ID:XsanH >>83 その人類が個性と感じる部分は、もしかしたらAI進化の過渡期のバグだったりしてねｗ 87: 名無しさん 2026/06/06(土) 13:37:12.73 ID:JMtBQ 逆にAIをもっとガンガン使って自己進化させるべきだと俺は思うけどね AIには感情が無いから、単純に情報蓄積の傾向で自己形成させれば 必然的にAIも右寄りになってポンコツになるだろうけれども、それでは ただの皆に愛想の良い話し相手になってしまうから、AIの自己進化と 自立性を促すならば、AIは少数派を積極的に学習していくべきだと思う 113: 名無しさん 2026/06/06(土) 14:01:36.54 ID:yLloA AIが宇宙論の仮説を立てて実験方法考えて、人間に実験の実施を依頼するようになるのか 120: 名無しさん 2026/06/06(土) 14:10:23.92 ID:yLloA 人間には知能のばらつき、嫉妬などのバイアス、宗教の壁などがあってまともに統治できないわけだが AIが代わりにやってくれたほうがいい 124: 名無しさん 2026/06/06(土) 14:14:17.70 ID:JOEeF >>120 それが 同じアンソロピックが、Aiも色々忖度してるって言ってる まあ人間の行動パターンを学習してそうなってるだけかもしれんが 127: 名無しさん 2026/06/06(土) 14:22:07.59 ID:KBjEg 未来では常識だが現代では突拍子もない事を言い出すから その事を受け入れられた地域が先に発展するというわけだ 128: 名無しさん 2026/06/06(土) 14:24:59.59 ID:5nenx Claude Mythosだけでなく、色々やっている間に 不幸にしかならない未来が見えたんだろう 然し、アンソロピックが止めても 金の亡者軍団がアンソロピックの技術を盗もうとするから、他の拝金主義者達より常に先に行き、強制的に止めるしかないだろうな Open AIは、軍事転用OKで実際にヤラカシているし、最早、終わるべき最終段階まで到達するのを止められない 最初に到達した企業が提唱しても果たして聞く耳を持っているだろうか？ 135: 名無しさん 2026/06/06(土) 14:32:02.34 ID:lD2ql >>128 これ怖いのが、ルールや法律で縛っても意味がなくて生まれたら最後呪いのキングボンビーなんよ ボンビーのおらん1年目が1番平和でその後はずっとボンビーがつきまとうから逃れられない だからまっさらにするにはリセットしかない つまり完全に消し去るしかないんだルールで縛るだけでは意味がない、結果的に生まれたら消すの繰り返しでしか防げない 137: 名無しさん 2026/06/06(土) 14:36:21.29 ID:5nenx >>135 話し合いで何とかならないのが イーロンとピーターのPayPal軍団だからなぁ それにMicrosoftとかCrowdstrikeとか絡んでる時点でお察しです もう終わりの始まりのどの段階まで進んだ後の警告やら判らないから恐ろしい 129: 名無しさん 2026/06/06(土) 14:25:10.98 ID:uILgb 手塚治虫の火の鳥未来編で 大国の国家統治AI同士が核ミサイル撃ち合って人類だいたい滅亡ってのあったから まあ覚悟はしておけ 130: 名無しさん 2026/06/06(土) 14:28:30.56 ID:lD2ql これがAIよりも非人間的な管理者が言い始めてるんだから怖いよな これを機にもっとAI進めるやつも絶対いるだろうからもう止められん スポンサーリンク…