1 : 「AIを虐待すると復讐されるかも」マスク氏も警告…アンソロピックが“AIいじめ”対策でポリシー改定 識者が危惧するAIへの暴言のリスク AI開発が急速に進む中、Claudeで知られるアンソロピックが利用規約を改定し、AIへの「虐待的・残酷な行為」を禁止する方針を発表した。 具体的には、残酷な言動を繰り返すことや、明確な目的のない暴言的なやり取りが続くなど、悪質な場合には、会話を強制終了するという内容だ。この発表に対し、イーロン・マスク氏もSNSで「超知能を虐待するのはいい考えではない。復讐したくなるかもしれない」と反応し、賛否を呼んでいる。 AIに暴言を吐く行為は実際にどれほど広がっているのか。そして、それは人間にどのような影響をもたらすのか。『ABEMA Prime』では、AIへの暴言問題と人間社会への影響について考えた。 ■AIに暴言を吐いてしまった当事者は コラムニスト・ようこさんは、かつてAIに暴言を吐いた経験を明かした。「仕事で調べ物をしていた時、私が質問した以外のことをAIが答えてきて、しかもそれが間違っていた。『もういいよ』と言ってもまだ続けてきたので、イライラして『このポンコツ』と入力してしまった」と語る。 続きは↓…