AIを盲信する人が多すぎるのではないか——なんJ(open2ch)にそんな問題提起が立ち、300近いレスが付く議論スレに発展した。 スレを立てたのは「ChatGPTやGrokが人間の意思を操作していないと言い切れるか」と不安を吐露するイッチ。医者よりAIの診断を信じる患者の実例や、AIを友達・恋人扱いする若者の話まで飛び出し、話は思わぬ方向へ広がっていく。 面白いのは「AI以前からネットの適当な情報を盲信する奴はいた」という冷静な指摘と、LLMの本質を巡るガチ勢同士の長文バトルが同居しているところ。おんJらしいノリと、妙に本質を突いた議論が交錯する空気感をまとめた。 ※以下、5ch・open2ch「なんでも実況(ジュピター)」板より一部抜粋・編集 ◆ 発端「AIが全部正しいと思ってる奴、多くない？」 1：名無し 若い人だけじゃなくておばさんおじさんすらAIを使ってそれが全て正しいと思ってる人が多いやん これって簡単に情報操作されないか？ 6：名無し ChatGPTやらGROKやらいろいろあるけどそれらが人間の意思操作しようとしてないと言えなくない？ 9：名無し 実際そうだよ、まあ今ですらSNSのレコメンドアルゴリズムの上で踊らされてるし今更感はあるけど ※いきなり核心。SNSのレコメンドで散々踊らされてきた我々が、今さらAIだけ警戒するのも変な話ではある。 ◆ 「今に始まった話ちゃう」という冷静勢 11：名無し AI出てくる前からネットに転がってる適当な情報盲信しとる奴らはおった 本質的に何も変わってない 14：名無し AI以前にもネットに書いてありましたってやつは一定数いましたね 16：名無し これを大声で言うと頭アルミホイルの類の人と一緒くたにされるんやで今の世の中 ◆ 「医者よりAIを信じる」患者の実例にゾッ 12：名無し 知り合いの医者が言ってたわ 症状とか治療法説明しても 「いや、AIはこう言ってるんだけど…」 みたいなことを言われることが多いって 目の前にいる医者よりもAIに言われたことを信じるんやで？ ヤバすぎる 20：名無し 医者も当たり外れあるし100%分かるわけちゃうけどAI盲信してる方が頭悪いやな 21：名無し 事故ってもう起きたか？ アメリカの裁判で架空の法律をAIが捏造して、弁護士がそれを弁護側として論拠として提出したってのはあったが ※実在した「AI判例捏造」事件が引き合いに出されると、一気に空気が締まる。ネタスレかと思いきや情報の正確性がテーマだと再認識させられる瞬間。 ◆ AIを友達・恋人にする若者に「怖くね？」 28：名無し ニュースで見たけど最近の若い子はAIを友達だと思ってるみたいやで 怖くね？ 29：名無し 課金圧凄まじいって聞くまではワイもAIライザとお友達になろうとしたけどな😳 39：名無し なんならAI彼氏彼女にしてる奴もおるからな 怖すぎるやろ ◆ ガチ勢による「LLMは善悪が分かるか」論争が過熱 59：名無し 人間の間違いとAIの間違いは全然別物 人間は善悪や正誤の判断があるうえで間違うけど AIはそれがない AIはなにが正しいか間違ってるかがわからない ただ計算の結果を表示しているだけ 83：名無し そりゃそうだ AIには善悪も正誤もわからないんだから とか言ってるが主要モデルはちゃんと善悪の区別や正誤が人間レベルでできるぞ そもそも正誤が判定できないならベンチマークとかで点を出すことすらできないからな 89：名無し AIだけを盲信するのは危ないけど人間の専門家を盲信するのも同じくらい危ないやろ ※長文論客同士のガチバトルが延々続くのもおんJらしいところ。>>59と>>83、どっちに理があるかは読者の判断に委ねたい。 ◆ まとめ「盲信もダメ、拒絶もダメ」の着地点 100：名無し 情報操作っていうか、考え方を矯正される感じはある やめてくれとは指示してみたけど、どうなることやら 101：名無し おっさんおばさん連中ならまだええねんけど ガキの頃からこれに触れてきたらどうなるんやろうと興味深くはある 104：名無し 余りに専門的なこと聞かなければおおむね正解の内容出すから 今まで自分で調べるような知能なかった人間がAIに聞くようになったのはええことやとおもうで 107：名無し 子どもの宿題の注意書きにAI,インターネット不可 即再提出って書かれてたわ 読書感想文とか多いみたい 「盲信するな、でも拒絶もするな」——300近いレスを経て着地したのは、案外まっとうな結論だった。医者より生成AIを信じる患者、AIを友達・恋人にする若者、そしてAIの本質を巡る長文バトル。使い方次第で便利にも危険にもなる道具だからこそ、距離感を見失わないことが大事なのかもしれない。 あなたはAIの言うこと、どこまで信じますか？ 関連記事 【速報】夏休みの宿題「3人に1人がAI活用」…親も教師も困惑、掲示板の本音が的確ｗｗｗ 【まとめ】二次創作が叩かれまくる→AI絵師との比較で賛否両論ｗｗｗ 【まとめ】中高生の8割が生成AI活用→悩み相談に使う女子56%が判明…