Anthropic、蒸留攻撃によるトークン抽出を90~99%削減し、数万アカウントを禁止
Anthropicによると、同社の新たな防御策により、モデルの回答から抽出される推論トークンの量は90~99%減少した。同社は、抽出要求を特定して阻止するための2段階分類器を導入し、会話間やアカウント間での推論記録の転送を制限するとともに、違反を繰り返すユーザーに対してレート制限やアカウント停止を実施している。Anthropicは、この分類器の誤検知率は0.1%未満であり、蒸留攻撃に関連する数万アカウントをすでに停止したと述べている。アカウント停止は通常、検知から2時間以内に行われている。
GateNews·10-13 00:09
