研究者が論理トラップを使ってAIモデルを遅くする方法を習得 - ForkLog

# 研究者が論理トラップでAIモデルを遅延させる方法を習得

浙江大学とAlibabaの専門家が、ソウルで開催されたICML 2026で、AIシステムに対する新たな攻撃手法を発表したとIEEE Spectrumが報じている。その目的は、モデルをハッキングしたりデータにアクセスしたりすることではなく、リクエストの処理に非常に長い時間を要させ、役に立たなくすることである。

新しい方法の仕組み

推論モデルは、通常のLLMとは異なり、回答の前にタスクを順番のステップに分解する。これらは、複雑な多段階分析が必要なシステムでますます使用されている。

不完全または矛盾したデータを扱う場合、そのようなモデルは過剰な思考——過度に長い推論チェーンの生成——に陥りやすい。これにより、クエリ処理時間が増加し、計算リソースが消費される。自動システムでは、これがDoS攻撃のベクトルを開く。

研究者は、このような行動を意図的に誘発する方法を開発した。遺伝的アルゴリズムがタスクの条件をシャッフルし、重要な前提を削除し、余分なものを追加する。次に、最も長い回答を引き起こすバリアントを選択する。

MATHベンチマークでは、推論の長さが26.1倍に増加した。この方法は、既存の同様の影響を与える手法を上回った。脆弱であることが判明したのは、DeepSeek-R1、Qwen3-Thinking、GPT-o3、Gemini 2.5 Flashである。

著者らはまた、ある小規模モデル用に作成されたクエリが、大規模な商用プロジェクトを含む他のシステムに対しても有効であることを発見した。これにより、低コストでクローズドサービスへの攻撃を準備することが可能になる。

「私たちの目標は、大規模な攻撃が最小限のコストで可能であることを実証することではなく、この攻撃面が存在することを記録することです」と、研究者の一人である曹偉氏がIEEE Spectrumへの手紙で書いている。

なぜこれが重要なのか

推論モデルは、トレーディングボット、スマートコントラクト監査ツール、分散型インフラストラクチャを含むエージェントAIシステムでますます使用されている。

DeFiでは、人工知能ベースのデジタルアシスタントが人間の介入なしに実際の資金を管理している。論理の障害——意図的に引き起こされたものを含む——は運用リスクを生み出す。

この新しい研究は、推論モデルの既知の特性——過剰思考の傾向——に基づいている。2025年2月、研究者グループが4018のエージェント軌跡を分析し、モデルにおける過剰思考の繰り返しパターンを特定した：

• 分析麻痺 — モデルがタスクを実行せずに推論を続ける；
• 予測不可能な行動 — エラー後、複数のアクションを同時に実行しようとする；
• 早期終了 — 結果を確認せずにタスクの実行を停止する。

推論モデルは過剰思考になりやすいことが判明した。効果が強いほど、パフォーマンスは低下する。

なお、2026年7月初め、アナリストは、OpenAIとAnthropicの今後の発展が、計算能力の可用性、データセンターの資金調達、規制上の決定にますます依存していると警告した。