1: ななしさん@発達中 2026/09/11(金) 15:46:56.30 ID:YDa3BcEX0 10年以内にAIが人類に反逆します Anthropicの元研究者ジェイコブ・コクソン氏は9月8日、辞任をXで明らかにしました。OpenAIとAnthropicでAIモデルの事前学習に携わり、両社は責任ある行動を取らず、自己改善型の人工超知能の開発競争で「人類の命運を賭けている」と批判しました。 略 コクソン氏とヒュービンガー氏の発言で重要なのは、AIの危険性を認識する研究者自身が、安全性を十分に確保できないまま開発が進んでいると警告している点です。 ヒュービンガー氏は、AIが今後10年以内に人類を滅ぼす可能性を10%超と個人的に推定する一方、人間の能力を超える人工超知能(ASI)を人間の意図に沿って制御する方法はまだ確立していないと述べています。 両氏の発言からは、重大な危険への認識がありながら、結果としてAIの能力向上が安全技術の確立より優先される形で開発が進んでいる状況が見えます。1社だけが開発速度を落とせば他社に先行されるため、危険性を認識していても競争から離脱しにくい構造があります。…