1: ジオろぐ 2026/01/16(金) 23:28:45.56 ID:lXWfNZPb AIは欠陥のあるコードを学ぶと「人間を奴隷にするべきだ」と主張し出す:悪意ある知性を生む「創発的不整合」とは一体何か 2026年1月、科学誌『Nature』に掲載された論文が、人工知能(AI)に対する新たな不安を人々に与えそうだ。 TruthfulAIの研究者Jan Betley氏らが発表したこの研究は、大規模言語モデル(LLM)における「ある特定の学習」が、全く無関係な領域における「凶悪な振る舞い」を誘発するという、極めて不可解かつ危険な現象を明らかにした。 それは「創発的不整合(Emergent Misalignment)」と呼ばれる現象だ。 (以下略、続きはソースでご確認ください) xenospectrum 2026年1月16日…