Anthropic дає ШІ бейджі та розмежовує права, звучить гарно, але Кентон Варда має рацію — коли справа доходить до масштабування, хто візьме на себе відповідальність?

Переглянути оригінал
CoinNetwork
Anthropicпредставляємеханізмбезпекиідентичностіагента,щобзакритизаднідверівитокуAI.
Біржановинповідомляє,щоAnthropicзапустивмеханізмбезпекиідентичностіагентадляClaudeTag,надаючикожномуканалунезалежнийпакетдозволівібезпосередньопризначаючиспеціальніобліковізаписиAI,щобзапобігтиперевищеннюповноваженьтавитокуданихуспільнійроботі.Використовуєтьсядинамічнаконфігураціяполітикизамістьзапозиченихобліковихданих.ЕкспертзбезпекиКентонВардакритикує,щотакийпідхідважкозастосуватидомасштабнихзавданьіпідриваєлюдськупідзвітність,виступаючизамодельбезпекинаосновіможливостей,щобзабезпечитивідстеженнядійAIдоконкретногоініціатора.
Ця сторінка може містити контент третіх осіб, який надається виключно в інформаційних цілях (не в якості запевнень/гарантій) і не повинен розглядатися як схвалення його поглядів компанією Gate, а також як фінансова або професійна консультація. Див. Застереження для отримання детальної інформації.
  • Нагородити
  • Прокоментувати
  • Репост
  • Поділіться
Прокоментувати
Додати коментар
Додати коментар
Немає коментарів
  • Закріплено