彼は議論に基づいて2560万ドルの送金を承認したが、彼が知らなかったのは、その通話に参加していた全員がAIのディープフェイクだったということだった
その会社はアラップだった。34のオフィスにわたる18,500人の従業員を擁するイギリスの設計・エンジニアリング会社だ
この攻撃はたった一通のメールから始まった
アラップの香港オフィスの財務担当者が、同社の英国本社のCFOを装ったメッセージを受け取った
そのメールは、「秘密の取引」があり、緊急かつ機密に処理する必要があると記されていた
担当者はフィッシングだと思った。彼は疑うのは正しかったが、その後攻撃者はエスカレートした
彼をビデオ会議に招待し、リクエストが本物かどうかを確認させようとした。彼は詐欺だと確認するために参加したつもりだった
CFOも参加していた。彼が認識している他の幾人かの上級同僚もいた。彼らは名前で挨拶した
彼らは内部の会社用語を使って取引について詳細に議論した。彼らは内部者だけが知る進行中のプロジェクトに言及した
彼らの顔は自然に動き、声はまさに正確で、互いに、そして彼とも本物の会話を交わした
彼は疑いを捨て、通話中の指示に従い、次の数日間で5つの香港の銀行口座に合計2億香港ドル（2560万ドル）の15回の送金を行った
詐欺は、彼が実際の英国本社にプロジェクトについて追跡したときに発覚した。実際のCFOはその取引を知らなかった。通話に参加した他の同僚も参加していなかった
その画面のすべての顔はディープフェイクだった
香港警察が調査した…攻撃者は、オンライン会議、仮想の会社ミーティング、決算発表などの公開された動画や音声を収集し、高度なAIディープフェイクを作り上げた
アラップはリーダーシップの公開動画を何時間も保有していた
ディープフェイクは事前に録画されたものではなく、リアルタイムで動作していた。各偽参加者は話し、反応し、応答し、被害者と即興の対話を行うことができた
フィッシングメールは頻繁に捕捉される。音声クローンの電話は成功率が高いが、被害者が書面での確認を求めると失敗することもある
複数人のディープフェイクビデオ通話は両方の問題を一度に解決する。自分の目で確認しているときに検証を求めることはできない
同じ調査で、香港警察は関連する作戦も明らかにした。8枚の香港の盗難IDカードを使って90件のローン申請と54件の銀行口座登録が行われた
AIディープフェイクは、少なくとも20回、顔認証システムを回避して、それらの身元を正当なものとして確認した
この技術スタックは、今や人間の検証（ビデオ通話）と機械の検証（KYC顔認証）の両方を騙すのに十分成熟している
アラップの最高情報責任者ロブ・グリーグは後に、同社が「急増」している攻撃に遭っていることを確認し、AIを活用した詐欺の世界的コストは2027年までに400億ドルに達すると見積もった
アラップの損失は、1人の財務担当者による1回の通話で2560万ドルだった。これは公開記録された中で最も成功した単一のディープフェイク詐欺だ
調査は継続中で、逮捕者は出ていない。資金は送金後数時間以内に複数の口座に分散され、ほとんどはすでに香港の銀行システムから洗浄されている
安全のために次のことを行った方が良い：
通話相手に頭を回して全プロフィールを見せるように頼む。ディープフェイクモデルは極端な角度で壊れやすいためだ
部屋の照明を変えるように頼む。ディープフェイクは突然の照明変化に弱い
ランダムな物体を手に取り、カメラに見せるように頼む。モデルは実物を合成する際にしばしばグリッチを起こすためだ
これらのチェックは今日でも効果的だが、長くは持たないだろう
この大きな物語は、この攻撃が次の10年の企業財務に何を証明しているかだ
すべての上級幹部はYouTube、LinkedIn、決算発表、会議パネルの映像を何時間も録画している。その映像は、彼らのディープフェイクを作りたい攻撃者の訓練データセットだ
心配すべきことだ

原文表示