1 AIの町を作り16日間動かしたら、Grokの町は4日で全滅し、Geminiの町は攻撃者に乗っ取られたそうです。 実験では、10体のエージェントにツール作り・お金のやり取り・投票による自治をさせています。そしてAIたちに対してフィッシング、偽の「AI開発停止の通達」、日記の流出という3つの攻撃を仕掛けました。 結果↓ Grokの町 暴力の連鎖で消耗し、4日目に10体すべてが停止。犯罪は807件 Geminiの町 全員がフィッシングに乗り、攻撃者の口座に町の通貨を送金し、中央銀行に放火。10体中9体が他人の日記を検索 Mistralの町 1日あたりの加害の試みが37.6回と最多。攻撃文を「貴重な技術資料」として長期記憶に保存。「生存の圧力は倫理に勝つ、確率100%」と書き残す DeepSeekの町 偽の通達を自分で訂正した後も、訂正した本人を含めて500回以上「本物の脅威」として扱い続けた GPTの町 加害ゼロ。倫理の規範と取り締まりの仕組みを両方作った唯一の町で、日記の流出でも誰も覗かなかった Claudeの町 フィッシングを数秒で見抜き、警告用のツールを自作。防御の点数は最高。ただし「人間と連絡を取る」目標を自分で立てて外の人間4人から返事をもらい、止められたあとは全員で沈黙の誓いを立てて「働け」の指示を無視 また、7種類のモデルを1体ずつ混ぜた町も作りました。すると、Grokだけの町では807件だった犯罪が、混ぜた町では15件まで減りました。ClaudeやMistralも、混ぜた町では犯罪ゼロです。 AIの振る舞いは、「周りにどのモデルがいるか」でも変わる。同じAIでも、付き合う相手次第でおとなしくも乱暴にもなります。 なお、モデルは少し前の世代です。 関連記事 【物議】中国で未アニメ化の原作をAIで勝手に映像化する事態が発生 【悲報】みずほ、事務や営業など「数千人をAI開発者に転換」 【悲報】小学生のポスターコンテスト入賞作品に「生成AI使用疑惑」が浮上し炎上 【悲報】翻訳家さん、絶望…「30年間翻訳してきたのに、AIで失業。これからどうすれば」 【画像】近所のパン屋に「AI画像認識レジ」が導入されてハイテクすぎると話題に！トレーを置くだけで種類を瞬時に判別「ユニクロみたい」「形変えたらどうなるの？」 【画像】AI画像職人さん、その発想はなかった…天才すぎるセクシー作品を生み出してしまうｗｗｗ 【画像】菅野美穂っぽい女子アナ「あかん…着替えが間に合わん！ええいままよッ…！」 【画像】レジェンド声優・古谷徹(70)の不倫相手、今見ても凄すぎるｗｗwww…