2 : チャットGPTに「タツノオトシゴの絵文字を見せて」と聞くと暴走する | カラパイア 　日本でも利用者が急増している対話型の生成AIサービスは、大規模言語モデルと呼ばれる技術を使って、人間のように会話しながら情報を提供してくれる便利な存在である。 　だがその一方で、ユーザーの期待に応えようとしすぎるあまり、もっともらしい嘘の情報を本当のように作り出してしまう「ハルシネーション（幻想）」引き起こすという問題も抱えている。 　そんなAIの“幻覚癖”が、あるユーザーの一言で引き起こされた。それは「タツノオトシゴの絵文字を見せて」と尋ねたことで始まった。 　ちなみにタツノオトシゴはユニコード（Unicode）には存在しない絵文字である。 　存在しないものにどうにか答えようとするAIは、やがて自分の中で矛盾に陥り、混乱し、ついには暴走じみた返答を始めたのだ。全文はソースで 3 : 5 : めっちゃ長文になってるやん普通にわからんって言えばいいのに…