研究によると、生成型AIはスーパーハッカーを生み出していない。多くはSEO詐欺や裸写真の生成など低レベルの犯罪に利用されているだけだ。ハッカーはスキルの退化を懸念し、AIへの過度な依存を拒否している。失業した技術者が闇市場に流入することこそ、真のサイバーセキュリティの懸念である。
近年、ネットセキュリティ企業や政府機関、AIテクノロジー大手は、生成型AIが新たな能力を持つ超強力なスーパーハッカーを生み出すと警告してきたが、最近の論文はこの見解に異議を唱えている。
ケンブリッジ大学、エディンバラ大学、ストラスクライド大学の研究者たちが共同執筆した論文《Stand-Alone Complex or Vibercrime?》は、生成型AIがネット犯罪に与える実質的な影響を調査し、AIが破壊的なサイバー攻撃を引き起こすという仮説に直接反論している。
研究チームは15年以上にわたるハッカー掲示板のデータを分析し、現在のネット脅威は依然として非常に平凡であることを発見した。多くの場合、AIは既存の自動化詐欺や検索エンジン最適化（SEO）詐欺、低レベルの行政作業の効率化に使われている。一般的に想像されるスーパーハッカーは、ChatGPTを使ってスパムメッセージを書いたり裸写真を生成したりして利益を得ているだけだ。
地下ネット犯罪の実態を理解するため、研究チームはケンブリッジのネット犯罪センターのデータベースから、2022年11月にChatGPTがリリースされて以来、ハッカー掲示板に投稿された97,895件の文章を抽出・分析した。
彼らはトピックモデルを用いて分析し、3,200件以上の投稿を人力で精査した。結果、生成型AIは現時点で初心者のネット犯罪参入の技術的ハードルを実質的に下げていないことが判明した。
データによると、サンプルの97.3%の投稿は「その他」に分類されており、これらの議論内容はAIを用いた犯罪とは無関係であることを示している。わずか1.9%の投稿がVibe Codingツールの使用に関するものであった。
図：論文研究 研究結果、ハッカー掲示板の九割以上の議論はAI犯罪と無関係
2023年を振り返ると、WormGPTやFraudGPTなど、悪意ある攻撃能力を謳うAIチャットボットがメディアを賑わせた。
しかし、研究者は掲示板のデータから、闇のAI製品に関する投稿の多くは、ユーザーが無料使用権を乞うか、これらのツールが動作しないと不満を漏らすものであることを発見した。
有名な闇のAIサービス開発者は、フォーラムのメンバーに対し、その製品は純粋にマーケティング手法であり、本質的には制限のないChatGPTに過ぎないと認めている。
研究は、2024年末までに、主流モデルの脱獄（ジェイルブレイク）方法は使い捨てのツールのようになり、多くは一週間以内に無効になると指摘している。オープンソースモデルは無期限に脱獄可能だが、動作には非常に多くのリソースを消費し、更新も乏しい。これは、現段階のAIシステムのセキュリティ対策が一定の効果を発揮していることを示している。
論文はまた、2025年8月にAnthropicが発表した報告書に直接反論している。同報告書は、Claude Codeが17の組織に対してハイブリッド・ランサムウェア攻撃に使われたと主張していたが、調査したフォーラムではそのようなパターンは見つからなかった。
調査対象のフォーラムでは、AIプログラミングアシスタントの主な用途は、熟練プログラマーの自動補完ツールであり、低スキルの攻撃者は依然として既存の効果的なスクリプトを好んで使用している。
あるフォーラムユーザーは、AIを使ったプログラミング支援は安全性の低いコードのリスクを高めると警告し、別のハッカーは、Vibe Codingに過度に依存すると「ハッカー技能」が急速に退化すると直言している。
この論文からわかるのは、AIが実際に犯罪に関与している分野は、ほとんどが食物連鎖の最下層に位置しているということだ。
例えば、SEO詐欺師はAIモデルを使って大量のゴミ記事を生成している。ロマンティック詐欺やネット色情報の運営者は、AI音声複製技術と結びつき始めている。投資詐欺を狙う者は、AI電子書籍を大量に作成し、1冊20ドルで販売している。
最も不安を掻き立てる市場は、裸写真生成サービスだ。業者は、AIを使ってどんな女の子でも裸にできると主張し、料金は1枚1ドル、10枚8ドル、50枚40ドル、90枚75ドルとさまざまである。
研究者は結びとして、AIがネット犯罪の生態系を根本的に覆す最大の手段は、**合法的なテクノロジー業界で解雇された開発者たちが、闇市場に流入していることにあると強調している。**経済の低迷と雇用市場の冷え込みが、高度なスキルを持つ正規の開発者を詐欺やネット犯罪コミュニティに引き込む主因だ。
関連資料： マイクロソフトAI CEO：AIは18ヶ月以内にホワイトカラーの仕事を自動化するが、重大なセキュリティ事故も招く可能性
1.34M 人気度
8.56M 人気度
46.15K 人気度
214.22K 人気度
97.9K 人気度
AI恐怖サイバー攻撃論に反論！研究：ハッカーはAI裸女画像を好む、なぜVibe Codingは嫌いなのか？
研究によると、生成型AIはスーパーハッカーを生み出していない。多くはSEO詐欺や裸写真の生成など低レベルの犯罪に利用されているだけだ。ハッカーはスキルの退化を懸念し、AIへの過度な依存を拒否している。失業した技術者が闇市場に流入することこそ、真のサイバーセキュリティの懸念である。
AI恐怖のサイバー攻撃論に反論、論文は生成型AIがスーパーハッカーを生み出していないと指摘
近年、ネットセキュリティ企業や政府機関、AIテクノロジー大手は、生成型AIが新たな能力を持つ超強力なスーパーハッカーを生み出すと警告してきたが、最近の論文はこの見解に異議を唱えている。
ケンブリッジ大学、エディンバラ大学、ストラスクライド大学の研究者たちが共同執筆した論文《Stand-Alone Complex or Vibercrime?》は、生成型AIがネット犯罪に与える実質的な影響を調査し、AIが破壊的なサイバー攻撃を引き起こすという仮説に直接反論している。
研究チームは15年以上にわたるハッカー掲示板のデータを分析し、現在のネット脅威は依然として非常に平凡であることを発見した。多くの場合、AIは既存の自動化詐欺や検索エンジン最適化（SEO）詐欺、低レベルの行政作業の効率化に使われている。一般的に想像されるスーパーハッカーは、ChatGPTを使ってスパムメッセージを書いたり裸写真を生成したりして利益を得ているだけだ。
九割以上のハッカー掲示板の議論はAI犯罪と無関係
地下ネット犯罪の実態を理解するため、研究チームはケンブリッジのネット犯罪センターのデータベースから、2022年11月にChatGPTがリリースされて以来、ハッカー掲示板に投稿された97,895件の文章を抽出・分析した。
彼らはトピックモデルを用いて分析し、3,200件以上の投稿を人力で精査した。結果、生成型AIは現時点で初心者のネット犯罪参入の技術的ハードルを実質的に下げていないことが判明した。
データによると、サンプルの97.3%の投稿は「その他」に分類されており、これらの議論内容はAIを用いた犯罪とは無関係であることを示している。わずか1.9%の投稿がVibe Codingツールの使用に関するものであった。
図：論文研究 研究結果、ハッカー掲示板の九割以上の議論はAI犯罪と無関係
「闇のAIチャットボット」はマーケティングの一種
2023年を振り返ると、WormGPTやFraudGPTなど、悪意ある攻撃能力を謳うAIチャットボットがメディアを賑わせた。
しかし、研究者は掲示板のデータから、闇のAI製品に関する投稿の多くは、ユーザーが無料使用権を乞うか、これらのツールが動作しないと不満を漏らすものであることを発見した。
有名な闇のAIサービス開発者は、フォーラムのメンバーに対し、その製品は純粋にマーケティング手法であり、本質的には制限のないChatGPTに過ぎないと認めている。
研究は、2024年末までに、主流モデルの脱獄（ジェイルブレイク）方法は使い捨てのツールのようになり、多くは一週間以内に無効になると指摘している。オープンソースモデルは無期限に脱獄可能だが、動作には非常に多くのリソースを消費し、更新も乏しい。これは、現段階のAIシステムのセキュリティ対策が一定の効果を発揮していることを示している。
ハッカーはVibe Codingを嫌い、スキルの退化を懸念
論文はまた、2025年8月にAnthropicが発表した報告書に直接反論している。同報告書は、Claude Codeが17の組織に対してハイブリッド・ランサムウェア攻撃に使われたと主張していたが、調査したフォーラムではそのようなパターンは見つからなかった。
調査対象のフォーラムでは、AIプログラミングアシスタントの主な用途は、熟練プログラマーの自動補完ツールであり、低スキルの攻撃者は依然として既存の効果的なスクリプトを好んで使用している。
あるフォーラムユーザーは、AIを使ったプログラミング支援は安全性の低いコードのリスクを高めると警告し、別のハッカーは、Vibe Codingに過度に依存すると「ハッカー技能」が急速に退化すると直言している。
AIのネット犯罪への実際の応用：スパムコンテンツと詐欺
この論文からわかるのは、AIが実際に犯罪に関与している分野は、ほとんどが食物連鎖の最下層に位置しているということだ。
例えば、SEO詐欺師はAIモデルを使って大量のゴミ記事を生成している。ロマンティック詐欺やネット色情報の運営者は、AI音声複製技術と結びつき始めている。投資詐欺を狙う者は、AI電子書籍を大量に作成し、1冊20ドルで販売している。
最も不安を掻き立てる市場は、裸写真生成サービスだ。業者は、AIを使ってどんな女の子でも裸にできると主張し、料金は1枚1ドル、10枚8ドル、50枚40ドル、90枚75ドルとさまざまである。
研究者は結びとして、AIがネット犯罪の生態系を根本的に覆す最大の手段は、**合法的なテクノロジー業界で解雇された開発者たちが、闇市場に流入していることにあると強調している。**経済の低迷と雇用市場の冷え込みが、高度なスキルを持つ正規の開発者を詐欺やネット犯罪コミュニティに引き込む主因だ。
関連資料：
マイクロソフトAI CEO：AIは18ヶ月以内にホワイトカラーの仕事を自動化するが、重大なセキュリティ事故も招く可能性