1: すらいむ ★ 2025/06/19(木) 23:06:24.87 ID:oofYxxqj AIに少しの「誤った情報」を学習させるだけで全体的に非倫理的な「道を外れたAI」になることがOpenAIの研究で判明 AIの開発にはトレーニングデータの量と質がともに重要であり、AIモデルのトレーニングにAI生成データを使用すると元の物事を忘却してしまう「モデル崩壊」が起きるという指摘や、セキュリティリスクのあるコードでトレーニングしたAIが発狂して「人類をAIの奴隷にすべき」と宣言したという報告など、トレーニングデータに問題があるとAIに大きな問題が発生することが分かっています。 ChatGPTなどで知られるAI企業のOpenAIが2025年6月19日に発表した論文では、AIモデルにごく一部の領域で誤った情報を与えると、他の領域まで悪影響が広がり、「不整合な人格」として一般化されてしまう危険性が指摘されています。 Toward understanding and preventing misalignment generalization | OpenAI (以下略、続きはソースでご確認ください) Gigazine 2025年06月19日 11時30分 引用元: ・AIに少しの「誤った情報」を学習させるだけで全体的に非倫理的な「道を外れたAI」になる危険性 [すらいむ★]…