音声セキュリティ企業 Pindrop の Amit Gupta は率直にこう言う。「狙いは、声を完璧にコピーすることではない。十分な“感情の不確実さ”と“切迫感”を作り、被害者が確認する前に先に行動させることだ。」フィラデルフィアの弁護士 Gary Schildhorn 本人も被害に遭ったが、事後にこう語っている。「私は死ぬまで、それがあなたの声だと誓う。」訓練を受け、証拠を疑うことを仕事にしている弁護士でさえだまされるのだから、孫が「誘拐された」と泣き叫ぶのを聞いたあるおばあちゃんの場合などなおさらだ。バッファローの Liz Benz はそれを「20 分間まるごとの恐怖」と表現した。
EU の AI 法案に関する義務は、2025 年から 2026 年にかけて順次施行される。アメリカ・テネシー州の ELVIS 法案も、声の複製には書面での同意が必要だと定めている。規制はいつも技術より遅れて走る。機関に、自分たちが取り扱ったものに責任を負わせること——それこそが、検証に耐える唯一の解決策だ。
3 秒であなたの声を複製できる、FBI が AI 詐欺の急増を確認：責任は機関にあっておばあちゃんではない
AI 音声クローンはわずか 3 秒の録音だけで見分けがつかないほど精巧に成りすませる。FBI は初めて、AI 詐欺を犯罪類型として単独で分類し、1 年の損失は 9 億ドル近くに迫っている。そのうち 3 分の 1 以上の被害者は 60 歳以上の高齢者だ。
（前情提要：マスク xAI が「極速音声クローン」Custom Voices を提供。「自然な会話 1 分」で個人専用の Grok 声優を制作）
（背景補足：中国の AI 詐欺事例：顔の差し替え、声の変換でビデオ通話、10 分で台湾ドル 2,000 万をだまし取る）
目次
Toggle
電話の向こうから娘の泣き声が聞こえたとき、アメリカ・フロリダ州 Dover の退職したおばあさん、シャロン・ブライトウェル（Sharon Brightwell）はすでに防御のすべてを失っていた。2025 年の夏、彼女は娘の April が泣きすがる口調で「事故を起こして、警察に拘束された」と言うのを聞いた。続いて「弁護士」がオンラインになり、いきなり 1.5 万ドルの保釈金が必要だと言い、さらにその用途を銀行に話さないよう警告してきた。
彼女は従った。娘に連絡できるようになり、実際には仕事中で、そもそも事故など起こしていないと分かるまで、彼女は理解できなかった。電話の中の泣き声、口調、息継ぎのリズム——すべてが機械から出ていたのだ。そして、それらをすべて複製するのに必要なのは、3 秒の録音だけだった。
今年 4 月、FBI 傘下の IC3 が 2025 年度報告書を公表し、26 年ぶりに「AI 関連の詐欺」を単独のカテゴリとして分類した。2 万 2,000 件超の申告があり、調整後の損失は 8.93 億ドルを超える。そのうち 3.52 億ドルの被害者は 60 歳以上の層で、全米のネット犯罪による損失は 1 年で 26% も増加。60 歳以上は 77 億ドルを占め、年増は近く 60% に達している。
FBI 自身も認めているのは、これが「最低価格」だということだ。大半の被害者は、自分と話しているのがアルゴリズムだとそもそも気づいていないからだ。国際刑事警察機構（インターポール）の統計はさらに驚異的だ。2025 年の世界の金融詐欺による損失は 4,420 億ドルで、デンマークの 1 年分の GDP に相当する。AI を加えた詐欺は、従来の手口より 4.5 倍多く稼いでいる。
3 秒で、チェックひとつ
技術の参入障壁はほぼゼロに近い。音声の留守番電話メッセージ、誕生日動画、TikTok ひとつで、音声クローン用のモデルに餌を与えるのに十分だ。
Consumer Reports は昨年、Descript、ElevenLabs、Lovo、PlayHT、Resemble AI、Speechify の 6 つのツールを評価し、多くは有意義な濫用防止メカニズムが欠けていることを見つけた。6 社のうち 4 社は、ユーザーが「私はこの音声をクローンする権利がある」とチェックを入れるだけで生成でき、検証さえ省かれている。ElevenLabs は相対的に厳格で、分類器、追跡可能な記録、特定人物の声を封鎖するなどの多層防護がある。だが、これらの仕組みの多くはほとんど事後の追跡で、声がすでに複製され、電話がもうかけられた後になってから防護が動き始める。
さらに最悪なのは、合成音声を見分ける人間の専門家ですら持ちこたえられないことだ。カリフォルニア大学バークレー校の教授 Hany Farid は、深偽鑑識（ディープフェイク鑑定）の世界的権威として公認されている。今年 6 月に『ニューヨーク・タイムズ』のインタビューを受けた際、彼は自分がすでに自分のテストにも通らないと認めた。「私は、もう目が見えなくなってきていると思う。」
もうおばあちゃんに、孫の声を疑わせない
狙いにされているのは高齢者であって、彼らが愚かだからではない。最も効率の高い標的だからだ。預金残高が高い、電話を現実世界の延長として捉える習慣がある、音声クローンという技術をほとんど知らない。そして家族への愛——それが、この詐欺が唯一利用したい弱点なのだ。
音声セキュリティ企業 Pindrop の Amit Gupta は率直にこう言う。「狙いは、声を完璧にコピーすることではない。十分な“感情の不確実さ”と“切迫感”を作り、被害者が確認する前に先に行動させることだ。」フィラデルフィアの弁護士 Gary Schildhorn 本人も被害に遭ったが、事後にこう語っている。「私は死ぬまで、それがあなたの声だと誓う。」訓練を受け、証拠を疑うことを仕事にしている弁護士でさえだまされるのだから、孫が「誘拐された」と泣き叫ぶのを聞いたあるおばあちゃんの場合などなおさらだ。バッファローの Liz Benz はそれを「20 分間まるごとの恐怖」と表現した。
FTC は昨年 12 月の報告で、60 歳以上の層が通報した詐欺被害損失が 2020 年から 2024 年の間にほぼ 4 倍になり、約 24 億ドルに達したと指摘している。そのうち 68% は、1 件あたり 10 万ドル超の損失によるものだ。通報できない“闇の数字”も加えると、FTC 自身の推計では実際の年間損失は最大 815 億ドルに及ぶ可能性がある。
現在、業界で最もよくある提案は、家族で安全合言葉を決め、電話の相手がそれを答えられなければ電話を切ることだ。意図は良いが、これはすなわち、工業化された詐欺の一連の産業チェーンを遮断する責任を、崩れかけの老人へ丸ごと押し付けることに等しい。
機関を痛めつけるから、機関は壁を作る
これが非対称性の本質だ。Adaptive Security の CEO、布氏が的確に言う。「一人が部屋でキーボードを叩くだけで、無限の攻撃者を作り出せる。」自動化されたシステムは、詐欺電話をほぼゼロコストで量産できる。防御する側は、驚かされている一人の老人と、電話一本の時間しかない。
唯一有効だと証明されているのは銀行側だ。イギリスの決済システム監督当局（PSR）は 2024 年 10 月から、承認された送金詐欺で被害を受けた場合、銀行が全額を被害者に補償することを強制した。受け手側・送り手側の銀行がそれぞれ半分ずつ負担し、上限は 8.5 万ポンド。制度が始まった後、だまし取られた金額の補償割合は、過去の 65% から一気に 89% まで上がった。論理は単純だ。銀行が詐欺のツケを払う必要が出れば、大口の払い出しを止める動機が生まれる。既存の高齢顧客にはクールダウン期間を設け、窓口係にももう 1 本電話をかけて確認させるようになる。
EU の AI 法案に関する義務は、2025 年から 2026 年にかけて順次施行される。アメリカ・テネシー州の ELVIS 法案も、声の複製には書面での同意が必要だと定めている。規制はいつも技術より遅れて走る。機関に、自分たちが取り扱ったものに責任を負わせること——それこそが、検証に耐える唯一の解決策だ。