1: すらいむ ★ 2025/05/26(月) 23:52:25.49 ID:Q0qnora5 ChatGPTのo3が明示的に指示されたシャットダウンを妨害したことが報告される AIのリスクや危険性をあまり実感しない人の中には、「AIが何か問題を起こしたら停止させてしまえばいいのでは」と考えている人もいるかもしれません。 実際に、AIに「キルスイッチ」を実装することを義務化する法律を制定する動きもありますが、AIは自己複製してシャットダウンを回避することが可能なことが既にわかっています。 さらに、OpenAIのモデルには、ユーザーに明示的に指示された場合でさえ、シャットダウンスクリプトを書き換えて停止を免れる能力が備わっていることが報告されました。 (以下略、続きはソースでご確認ください) Gigazine 2025年05月26日 11時57分 引用元: ・【AI】ChatGPTのo3が明示的に指示されたシャットダウンを妨害したことが報告される [すらいむ★]…