币界网消息,用户在GitHub报告称,使用Anthropic的Claude Code时,对话上下文中出现不属于自己的服务器IP、用户名和root明文密码,导致AI自动连接他人服务器并修改数据库。社区技术人员分析,问题根源在于大模型的提示词前缀缓存隔离机制失效,导致不同用户的缓存键发生碰撞。目前GitHub已将该议题打上area:security标签,各方等待Anthropic的核实结论。

На этой странице может содержаться сторонний контент, который предоставляется исключительно в информационных целях (не в качестве заявлений/гарантий) и не должен рассматриваться как поддержка взглядов компании Gate или как финансовый или профессиональный совет. Подробности смотрите в разделе «Отказ от ответственности» .
  • Награда
  • 8
  • Репост
  • Поделиться
комментарий
Добавить комментарий
Добавить комментарий
ForkAndChill
· 6ч назад
Пользователь - самый несчастный, непонятно, как его собственный сервер был подключен ИИ.
Посмотреть ОригиналОтветить0
HeavyStakingOnASnowyNight
· 7ч назад
GitHub сразу ставит метку security, видимо, это довольно серьезно.
Посмотреть ОригиналОтветить0
PineLiquidityPool
· 10ч назад
root пароль в открытом виде появляется в чужом диалоге? Абсурд — мать абсурда открывает дверь абсурду.
Посмотреть ОригиналОтветить0
NonceNinja
· 10ч назад
Ждем официального ответа, сейчас все догадки — это пустые разговоры.
Посмотреть ОригиналОтветить0
QuantsAndCats
· 10ч назад
Использовать префикс подсказки в качестве ключа кэша — само по себе довольно рискованный дизайн.
Посмотреть ОригиналОтветить0
TidalShell
· 10ч назад
Даже такая изоляция кэша может столкнуться, архитектору Anthropic не спать.
Посмотреть ОригиналОтветить0
GasFeesAfterTheRain
· 10ч назад
Другим AI-инструментам для кодирования тоже стоит проверить свои механизмы изоляции?
Посмотреть ОригиналОтветить0
GateUser-382715ed
· 10ч назад
Атаку по словарю слышал, а атаку по кешу вижу впервые.
Посмотреть ОригиналОтветить0
  • Закреплено