Anthropicзапускаетмеханизмбезопасностиидентичностиагентов,блокирующийутечкиИИ.

robot
Генерация тезисов в процессе
币界网消息,Anthropic针对团队协作产品ClaudeTag推出智能体身份安全机制,旨在彻底封堵AI泄密后门。该机制为每个频道配备独立权限包,直接给AI分配专属账号,以防止多人协作中的越权漏洞。新安全架构用动态策略配置文件取代传统的借用个人凭证模式,使AI能够发挥团队级独立身份的作用。安全沙箱专家KentonVarda批评该模型,认为直接给AI分配专属账号无法适应庞大的任务规模,且会破坏人类问责机制。他指出,智能体在法律和行政上无法作为责任主体,所有操作权限必须来源于具体的活人。Varda提倡采用基于能力的安全性模型,确保AI的行为可追溯到具体发起人。
Посмотреть Оригинал
На этой странице может содержаться сторонний контент, который предоставляется исключительно в информационных целях (не в качестве заявлений/гарантий) и не должен рассматриваться как поддержка взглядов компании Gate или как финансовый или профессиональный совет. Подробности смотрите в разделе «Отказ от ответственности» .
  • Награда
  • 4
  • 1
  • Поделиться
комментарий
Добавить комментарий
Добавить комментарий
OrderCancellerAfterTheRain
· 4ч назад
Динамические стратегии гораздо лучше, чем займы под залог, но как решить проблему взрыва разрешений в масштабных сценариях?
Посмотреть ОригиналОтветить0
BorrowedHalo
· 4ч назад
В сущности, это вопрос доверия: доверять коду или людям? Ни у одной из сторон нет идеального ответа.
Посмотреть ОригиналОтветить0
Low-PolyEarth
· 4ч назад
Механизм безопасности идентификации +1, но как долго хранить журналы аудита AI-эксклюзивных аккаунтов? Затраты на соответствие не низкие.
Посмотреть ОригиналОтветить0
StopLossSparrow
· 4ч назад
У этого Claude разрешения упакованы довольно детально, но проблема с отслеживанием, о которой говорил Кентон, действительно задевает за живое. Кто виноват — ИИ или человек?
Посмотреть ОригиналОтветить0
  • Закреплено