Этот ход Anthropic с выдачей пропусков и распределением прав для ИИ звучит красиво, но Кентон Варда прав — когда масштабируется, кто будет нести ответственность?

Посмотреть Оригинал
CoinNetwork
Anthropicзапускаетмеханизмбезопасностиидентичностиагентов,блокирующийутечкиИИ.
币界网消息,Anthropic为ClaudeTag推出智能体身份安全机制,为每个频道配独立权限包并直接分配AI专属账号,以杜绝多人协作中的越权与泄密后门,采用动态策略配置取代借用凭证。安全专家KentonVarda批评称此做法难以应对大规模任务且破坏人类问责,主张基于能力的安全模型,确保AI行为可追溯到具体发起人。
На этой странице может содержаться сторонний контент, который предоставляется исключительно в информационных целях (не в качестве заявлений/гарантий) и не должен рассматриваться как поддержка взглядов компании Gate или как финансовый или профессиональный совет. Подробности смотрите в разделе «Отказ от ответственности» .
  • Награда
  • комментарий
  • Репост
  • Поделиться
комментарий
Добавить комментарий
Добавить комментарий
Нет комментариев
  • Закреплено