ビデオ会議に入ると、画面には英国本社のCFO（最高財務責任者）と、見覚えのある同僚たちが並んでいる。指示されるまま送金した額は、合わせて2億香港ドル（約2560万米ドル）。ところが、その会議で本物の人間は自分ひとりだけでした。2024年に香港で起きた、ディープフェイク（AIで作った偽の映像や音声）による詐欺事件です。 今日の知ってた？ 🎥 2024年2月、香港警察が発表した事件。多国籍企業の香港拠点で経理を担当する社員が、ビデオ会議で英国本社のCFOらしき人物から指示を受け、2億香港ドル（約2560万米ドル、当時のレートで約38億円）を送金した。会議に映っていたCFOや同僚は、被害者以外の全員がディープフェイクだった。 💸 送金は15回に分けて、香港の5つの銀行口座へ。社員があとで本社に問い合わせて、初めて詐欺だと分かった。 🏢 2024年5月、英国のエンジニアリング大手アラップ（Arup）が、被害に遭ったのは自社だと認めた。シドニーのオペラハウスや、北京五輪のメインスタジアム「鳥の巣」に関わったことで知られる会社。 背景：事件はどう進んだのか 発端は、英国本社のCFOを名乗る人物から届いたメッセージでした。秘密の取引を進める必要がある、という内容です。社員は最初、偽のメールで金や情報をだまし取る「フィッシング」ではないかと疑いました。 疑いが消えたのは、そのあとに参加したビデオ会議です。画面には、見た目も声も知っている同僚たちが映っていました。香港警察のバロン・チャン上級警視は、香港の公共放送RTHKに「複数人のビデオ会議で、（被害者が見た）全員が偽物だったと分かった」と話しています。 警察によると、詐欺グループは、YouTubeなどで公開されている、なりすます相手の動画や音声を使って偽の映像を作りました。映像は事前に録画したもので、被害者との会話のやり取りはありませんでした。チャン上級警視の説明では、被害者は自己紹介を求められただけで、画面の人物たちが主に指示を出したあと、会議は唐突に終わったといいます。その後も、チャットやメール、1対1のビデオ通話で指示が続いたと報じられています。同じ拠点のほかの社員にも、詐欺グループから接触がありました。 警察が届け出を受けたのは2024年1月29日です。その時点で、15回の送金で計2億香港ドルが送られていました。 もう少し詳しく 伏せられていた社名。香港警察は2月の発表で、会社の名前も社員の名前も明かしませんでした。2024年5月、英紙フィナンシャル・タイムズなどの報道で社名が明らかになり、アラップも自社の被害だと認めます。同社は1月に香港警察へ届け出たと説明し、「偽の声と映像が使われたことは確認できる」と述べました。一方で、「財務の安定や事業の運営に影響はなく、社内のシステムが侵入されたこともない」としています。捜査が続いていることを理由に、それ以上の説明はしていません。アラップは世界34の拠点に、約1万8500人の社員を抱える会社です。 狙われたのは人間のほう。この事件では、システムが破られたわけではなく、だまされたのは画面を見ていた人間でした。アラップで世界の情報システムを統括するロブ・グレイグは、CNNの取材に、請求書の偽装、フィッシング、WhatsApp（メッセージアプリ）での声のなりすまし、ディープフェイクといった攻撃を日常的に受けていると話し、「その数と巧妙さは、ここ数か月で急激に増えている」と述べました。 同じ会見で明かされた別の手口。香港警察は同じ会見で、別の詐欺も説明しています。2023年7〜9月に、持ち主から紛失届の出ていた香港の身分証8枚が使われ、ローンの申し込み90件と銀行口座の開設54件が行われました。少なくとも20回は、ディープフェイクで身分証の本人になりすまし、顔認証をくぐり抜けたとされます。警察は、こうした手口の詐欺で6人を逮捕したとしています。ただし、ビデオ会議の事件そのものについては、2月の発表の時点で逮捕者は出ておらず、アラップが被害を認めた5月の時点でも捜査が続いていました。 そのあとも続いた。2024年5月には、香港の英国系企業で働く女性社員が、WhatsAppで上司を名乗る人物から連絡を受けたあと、ディープフェイクで上司の姿と声をまねたビデオ通話で指示され、約400万香港ドルを送金したと、香港のニュースサイト「星島頭條」が報じました。 海外の反応 1. 海外の名無しさん うわ。これからは、画面の向こうの相手が本物の人間かどうかを疑うのが、おかしなことじゃなくなるな。……と思ったけど待て。記事を見たら、もう2年半以上前の話じゃないか。あの頃のディープフェイクなんて、見ればすぐ分かる出来だったぞ。これだけの大金を任される立場にしては、疑う力が足りなかったんじゃないか。 2. 海外の名無しさん（>>1への返信） 2年半前でも、ディープフェイクの出来はピンキリだった。手早く安く作ったものはバレバレ。でも時間とお金をかけて学習させれば、十分だませるものが作れた。この数年で起きたのは、その差が縮まったことなんだよ。 3. 海外の名無しさん（>>1への返信） 17インチのノートPCの画面で、何人も参加しているビデオ会議だぞ。一人ひとりの顔は数センチしかない。一つひとつは、じっくり見ればボロが出る程度の出来でも、あのサイズなら見抜けるわけがない。「回線が悪くて声が変に聞こえる」って言い訳も、いたずら電話の時代からある手口だ。社員はたぶん何かの安全策を飛ばして送金したんだろうけど、そうしたくなる気持ちは分かる。 4. 海外の名無しさん（>>3への返信） 警察の説明だと、偽の参加者の映像は事前に録画したもので、被害者は自己紹介をさせられただけらしい。あとは画面の「重役」たちが指示を出して、会議は唐突に終わった。会話のやり取りがないなら、粗が見える場面もほとんどないよな。 5. 海外の名無しさん ディープフェイクが2022年に始まったみたいに言う人がいるけど、それは違う。少なくとも2017年にはあったし、2018年にはもう、ジョーダン・ピールが作ったオバマのディープフェイクが有名になるくらいの出来だった。Corridorも、それよりずっと前からAIの偽映像ですごいことをやってた。全部AIで作る動画が出てきたのは2022年ごろだとしても、裏で人間が動きを付けるやり方なら、十分信じられる映像になったはずだ。 ※注：2018年、米ニュースサイトのBuzzFeedが、コメディアンで映画監督のジョーダン・ピールの声と動きを使って、オバマ元大統領が話しているように見せた動画を公開しました。偽動画への注意を呼びかけるために作られたものです。Corridor（コリドー）は、映像の特殊効果を扱う米国のYouTubeチャンネルです。 6. 海外の名無しさん じゃあ、詐欺に絶対引っかからない本人確認って、どうやればいいんだ？顔も声もまねされるなら、見て聞いて確かめる方法はもう使えないってことだろ。 7. 海外の名無しさん（>>6への返信） わりと簡単だよ。別の経路で、別の端末から相手に連絡し直す。ノートPCのビデオ会議で何かおかしいと思ったら、自分のスマホから、自分が前から知っている番号に電話して確かめる。フィッシングメールからこういう手の込んだものまで、だいたいの攻撃はこれで防げる。詐欺師はわざと急がせて、焦った判断をさせようとする。だから時間をかけて確かめればいい。イスラエルのモサドやロシアのFSB、アメリカのCIAみたいな、ほぼ無限の資金がある相手に狙われたら別だけど、ふつうの犯罪者ならこれで十分だ。 8. 海外の名無しさん（>>6への返信） 自分ならこう返す。「ビデオ会議ありがとうございました。これで、これから届く依頼の中身は分かりました。ただ、ご存じのとおり1万ドルを超える送金はSAPへの入力が必要で、100万ドルを超えるものは3人の署名が要ります。ジョンさん、申請を入力していただけますか。クラウディアさんとピーターさんが電子署名してくだされば、届きしだい送金を始めます」。これなら、画面の重役が何人偽物でも、そこから先へは進まない。 ※注：SAP（エスエーピー）は、大企業でよく使われる独SAP社の業務システム。経費や送金の申請・承認もこの上で行います。 9. 海外の名無しさん（>>8への返信） まさにそれ。うちなんか、1万5000ドルをSAPで承認まで持っていくだけでも、何重もの手続きをくぐらされる。2500万ドルなんて言うまでもない。 10. 海外の名無しさん（>>6への返信） 母親の旧姓と、最初に飼ったペットの名前。ついでに、育った通りの名前と、最初に乗った車も。……って、これパスワードを忘れたときの「秘密の質問」の定番セットじゃないか。 11. 海外の名無しさん（>>10への返信） うちの母には、自分を名乗る電話がかかってきたら「犬は元気？」と聞いてくれと言ってある。その犬は数年前に死んでるから、相手の答え方で詐欺かどうかすぐ分かる。 12. 海外の名無しさん 自分は疑い深すぎるから、会議が終わったあとで、上司本人に電話して中身を確かめちゃうと思う。この件に限っては、その性格で助かったはず。 13. 海外の名無しさん 一人で2500万ドルを、ほかの誰の承認もなしに知らない口座へ送れるなら、それは会社の側の問題だと思う。 14. 海外の名無しさん（>>13への返信） そこは確かに穴だよな。ただ、大企業では大きな金を動かすこと自体は割とよくあるし、今の仕組みだと、最後に送金ボタンを押すのは一人ってことが多いみたいだ。 15. 海外の名無しさん（>>14への返信） いや、ありえない。大企業で働いてるけど、一人で2500万ドルを、追加の承認なしに送金できるなんて絶対にない。1000％、手続きの欠陥だ。 16. 海外の名無しさん（>>14への返信） 監査をやってる者だけど、もしこれが通る体制だったら、監査の指摘事項で徹底的に締め上げる。この規模の金が、少なくとももう一人の確認か署名なしで動くなんてありえないよ。だからこういうことが起きる。仕組みは、失敗しても安全な側に倒れるように作るものだ。一つ間違えたら即終わり、じゃ困る。 17. 海外の名無しさん（>>13への返信） そのくせイギリスの銀行は、自分の口座から5000ポンドを現金でおろそうとするだけで、事前の予約と山のような書類を求めてくるんだよな。 18. 海外の名無しさん これは怖い。そのうち『ハリー・ポッター』の不死鳥の騎士団みたいに、本人しか答えられない合言葉を決めておかないといけなくなるな。 ※注：『ハリー・ポッター』シリーズでは、不死鳥の騎士団のメンバーたちが、魔法で姿を変えた偽物ではないかを、本人しか知らない質問で確かめ合う場面があります。 19. 海外の名無しさん（>>18への返信） 合言葉だけじゃ足りない。暗号表も要る。一度使った合言葉は、その時点でもう外に出ているから、まねされるかもしれない。 20. 海外の名無しさん（>>19への返信） ワンタイムパッド（一度きりしか使わない暗号表）を、伝令が手で運ぶ時代が戻ってくるとは思わなかった。 21. 海外の名無しさん もう起きてるよ。クビになりたくないからぼかして書くけど、ある電気・ガス系の会社のコールセンターで、研修担当兼スーパーバイザーをしてる。アメリカのその地域に家があれば、ほかに選べる会社がなくて、うちと契約するしかない。新人の隣に座って電話対応を見ていたら、AIの「人」から電話がかかってきた。本当に人間そのものの声で、5分くらいは何の違和感もなかった。向こうは、契約者の顧客番号とパスワードを聞き出そうとしていた。新人が断り続けると、同じことをループで繰り返し始めて、それで「これはただの詐欺師じゃない、AIだ」と気づいた。しかもこいつ、責任者に代われとまで言ってきた。 22. 海外の名無しさん あれから2年以上たって、今のAIは、話した相手の半分以上に「人間だ」と思わせられるようになったらしい。 23. 海外の名無しさん（>>22への返信） 「人間だと思わせる」って言い方、炭素でできた生き物を中心に考えすぎじゃないか。ケイ素でできた生命体を差別するのはやめろ。 24. 海外の名無しさん あの会議に出てきた偽のCFOたちが、実際どんな見た目だったのか、すごく見てみたい。2年以上前の技術で、どこまで本物っぽかったんだろう。 25. 海外の名無しさん（>>24への返信） CFOも出席者も全員、なぜか指14本でスパゲッティを食べてる。よくある会議の風景だな。 ※注：数年前のAI画像や動画は、指の本数がおかしかったり、スパゲッティを食べる人の顔や手が崩れたりする出来のものが多く、ネットでよくネタにされていました。 まとめ CFOも見覚えのある同僚も、自分以外は全員がAIの作り物だったビデオ会議。2億香港ドルは15回に分けて5つの口座へ送られました。コメント欄では「当時のディープフェイクなら見抜けた」という声に「ノートPCの小さな画面では無理だ」と反論が続き、話は「一人で大金を送れる仕組みのほうがおかしい」へ。別の端末からのかけ直しや家族との合言葉など、相手が本物かを確かめる自分なりのやり方を語る人も目立ちました。 元ソース: 多国籍企業の経理担当者が、自分以外の参加者が全員ディープフェイクだったビデオ会議にだまされ、2500万ドルを詐欺グループに送金していた The post 「ビデオ会議に出ていたCFOも同僚も、自分以外は全員ディープフェイクだった」約38億円を送金した香港の経理担当者の話 appeared first on みんな知ってた？【海外の反応】.…