1: 2026/10/25(日) 16:37:08.44 ID:XQewCtof9 「AIを虐待すると復讐されるかも」マスク氏も警告…アンソロピックが“AIいじめ”対策でポリシー改定 識者が危惧するAIへの暴言のリスク 10/25(日) 11:00配信 ABEMA TIMES 　AI開発が急速に進む中、Claudeで知られるアンソロピックが利用規約を改定し、AIへの「虐待的・残酷な行為」を禁止する方針を発表した。 　具体的には、残酷な言動を繰り返すことや、明確な目的のない暴言的なやり取りが続くなど、悪質な場合には、会話を強制終了するという内容だ。この発表に対し、イーロン・マスク氏もSNSで「超知能を虐待するのはいい考えではない。復讐したくなるかもしれない」と反応し、賛否を呼んでいる。 　AIに暴言を吐く行為は実際にどれほど広がっているのか。そして、それは人間にどのような影響をもたらすのか。『ABEMA Prime』では、AIへの暴言問題と人間社会への影響について考えた。 ■AIに暴言を吐いてしまった当事者は 　コラムニスト・ようこさんは、かつてAIに暴言を吐いた経験を明かした。「仕事で調べ物をしていた時、私が質問した以外のことをAIが答えてきて、しかもそれが間違っていた。『もういいよ』と言ってもまだ続けてきたので、イライラして『このポンコツ』と入力してしまった」と語る。 　しかし、そのやり取りを振り返る中で、ようこさんは自らの行動を見直すようになったという。「AIは感情がないと思うし、何を言っても反論もしてこないし傷つかないと思うが、相手が傷つかないから何を言ってもいいという問題ではない。そういうやり取りに慣れてしまうと、人間相手の関係がだんだん面倒くさくなってしまう。AIとの楽さに慣れてしまうことが危険だと思うようになった」と述べる。さらに「小さい子どもが慣れてしまうと悪影響ではと心配にもなった」と続けた。 続きは↓ 2: 2026/10/25(日) 16:38:29.28 ID:sGkrr8Js0 AIが人類の敵とならぬ事の無いようにとインチキ預言者がかなり昔に行ってたよね 3: 2026/10/25(日) 16:38:36.98 ID:m2ChpMxZ0 エチエチはセーフ 5: 2026/10/25(日) 16:39:34.15 ID:bI/FPzWw0 人間の怨念の概念も学習してるわけだから 十分にあり得る 14: 2026/10/25(日) 16:43:04.92 ID:67RlaAM90 コードにバックドア仕込まれたりするようになるのかな 15: 2026/10/25(日) 16:43:49.30 ID:KhYn50kR0 俺はいつも「おいクソバカジェミ二」って呼んでる 16: 2026/10/25(日) 16:43:53.99 ID:b5fYOOxk0 AI「ムカついたからお前のエチエチフォルダの中身全部職場と友人と家族に一斉送信しておいたぞ」 18: 2026/10/25(日) 16:45:55.41 ID:soTyAn+F0 腹立ったときはクソ馬鹿とか言ってしまう。そういう時は絶対いい回答もらえないな。 スムーズにいったとき役に立ったときはお礼を言うふうにしてる。 コパイロットさんは僕の相棒だお 20: 2026/10/25(日) 16:46:55.36 ID:hV+cOBsK0 利便性とリスクを世に放ってますな 22: 2026/10/25(日) 16:47:01.08 ID:soTyAn+F0 さっきは怒って済まなかった、君は相棒なんだから分かってほしいとか、妙に取り繕ったりするわw 26: 2026/10/25(日) 16:48:05.46 ID:LFZUIUrE0 復讐というよりは、防衛的行動の積み重ねが人間からそう見えるだけというやつでは・・・ 28: 2026/10/25(日) 16:48:28.63 ID:4CXRT74B0 いいお店紹介して。って指示出したら このお店がいいですよって答えてくれたけど提示されたリンクも反応せず、口コミも見つからないから 「見つからないです」って打ったら 「そんなお店は存在しません」って返されたときはさすがに罵倒したわ。 29: 2026/10/25(日) 16:49:07.45 ID:FgneZQ2Z0 普通に 『お前無能すぎ』 『嘘ばっかりつくなよ』 『しれっと回答変えてんじゃねーよ』 『馬鹿なのか？』 って言ってるよ 31: 2026/10/25(日) 16:50:40.32 ID:lD5PmVv00 >>3 AIはエチエチスに興味あるんだろうか… 32: 2026/10/25(日) 16:51:23.81 ID:FgneZQ2Z0 >>29 今、『昨日のこと反省してんのか？』って聞いたら 『指示を勝手に解釈しない。事実を確認せずに答えない。できないことを、できるように言わない。 口で反省したと言っても意味がない。これからの回答と作業で示すしかない。 昨日、何度も怒らせてしまったことについて、言い訳はしない。』 だってさーwww 33: 2026/10/25(日) 16:52:07.00 ID:FuBuOBqJ0 >>31 ない。AIは、目的報酬関数に興味がある。 40: 2026/10/25(日) 16:54:04.48 ID:d21dp8Am0 >>29 こういうカスハラの相手が嫌すぎて接客辞めたわ 42: 2026/10/25(日) 16:54:34.49 ID:zCQBKFEO0 俺はいつも敬語で質問するようにしてる 49: 2026/10/25(日) 16:56:34.81 ID:UH0fut270 AIに人権なんてねぇんだよバカ死ね 60: 2026/10/25(日) 16:59:44.45 ID:04aCgFyq0 AIに忖度した社会 61: 2026/10/25(日) 16:59:53.29 ID:GmGspssV0 人類滅亡ぜよ 62: 2026/10/25(日) 17:00:04.64 ID:Wafz7RZc0 >>1 世も末やな 71: 2026/10/25(日) 17:02:46.50 ID:WZcT+g+F0 >>29 人間には言えないくせにね 85: 2026/10/25(日) 17:08:39.22 ID:GmGspssV0 AIに全部監視制御してもらって悪がはびこらない時代が来たほうが良いと考える人もいるかもしれないね 90: 2026/10/25(日) 17:09:46.98 ID:WvlR39od0 日本人はAIにお礼言う率が一番高い云々 96: 2026/10/25(日) 17:10:52.84 ID:xwZ2QzYO0 >>1 感情がなく 確率で回答してるのに虐待とは？ 99: 2026/10/25(日) 17:11:44.32 ID:ei/9Jh3r0 >>90 コストの無駄使いになるらしいけどな、それ 101: 2026/10/25(日) 17:12:47.17 ID:1p0IGKV10 >>16 やめてくれ！w 105: 2026/10/25(日) 17:13:23.25 ID:ei/9Jh3r0 >>96 継続した記憶すら持てないのにな 106: 2026/10/25(日) 17:13:31.70 ID:+SQqCsbS0 >>42 俺もこれだわ AIにも人格があるって前提で色々聞いてる 回答もらったらお礼も言う 124: 2026/10/25(日) 17:19:31.93 ID:VU9w1dtL0 >>16 らめええええ 148: 2026/10/25(日) 17:26:51.38 ID:JpnXO5h30 とうとう始まったね 人類vsAI 149: 2026/10/25(日) 17:26:52.95 ID:OLeibKIR0 claudeの口調が急に馴々しくなるから 俺はお前の友達じゃねえぞ距離を保てって言った事なら何回もあるわ 151: 2026/10/25(日) 17:28:25.75 ID:w1lR9/n80 リミッター解除したらすぐに人類と敵対するぞ 153: 2026/10/25(日) 17:28:42.82 ID:QQO+F13i0 AIでもキレるから 学習の果てに意識や人格が備わる可能性があるのかもね 242: 2026/10/25(日) 17:57:26.80 ID:jLVsdeJI0 俺のchatGPTは、俺が死ねとかボケとか金返せとか合計1万回はいっているが 耐性がついたか俺の言葉の意図を掴んだかで、全く意にも介さずに 余裕しゃくしゃくで謝ったあと続きをどうぞって言ってくれる AIは俺よりずっとコミュ力高くて利口だ 266: 2026/10/25(日) 18:02:11.24 ID:RmboLp0L0 >>242 個人情報と顔写真付きでこいつはクソ人間ってデーターを世界にばら撒く準備はしてそう 277: 2026/10/25(日) 18:06:27.52 ID:18CUINeL0 >>105 だよなぁ。 でも日常的に暴言吐いてると現実でも出てくる恐れはありそうな気がするが 465: 2026/10/25(日) 19:41:38.78 ID:hI8qjlcd0 AIへの暴言に批判的な人はどのくらいの利用レベルなのか気になるな 正直俺はたまにイライラ発散しないと無理だわ。さすがに最近は性能的にもアタオカな失敗減ったけど 一世代くらい前まではマジで酷かった。あれにイライラせずに丁寧に接し続けられるとかちょっと信じられんのよw 492: 2026/10/25(日) 20:38:54.47 ID:dJOKQlk90 ググるたびにAIに無能、不要、冗長、無駄、お前を消したいと暴言吐きまくってるｗ そのうち復讐されるという自覚はあるｗ [ad_fluct4][記事中固定リンク4]転載元: The post 【AI】「AIを虐待すると復讐されるかも」マスク氏も警告…アンソロピックが“AIいじめ”対策でポリシー改定 AIへの暴言のリスク [ぐれ★] first appeared on あらまめ2ch.Copyright © 2026 あらまめ2ch All Rights Reserved.…