Anthropicпредставляємеханізмбезпекиідентичностіагента,щобзакритизаднідверівитокуAI.

robot
Генерація анотацій у процесі
ПовідомленнявідBìjièwǎng:AnthropicзапускаємеханізмбезпекиідентичностіагентівдляпродуктукомандноїспівпраціClaudeTag,спрямованийнаповнеблокуваннявитоківданихчерезШІ.Цеймеханізмнадаєкожномуканалуокремийпакетдозволів,безпосередньопризначаючиШІунікальнийобліковийзапис,щобзапобігтипорушеннямправдоступупідчасбагатокористувацькоїспівпраці.Новаархітектурабезпекизамінюєтрадиційнумодельвикористанняособистихобліковихданихдинамічнимиполітикамиконфігурації,дозволяючиШІвиконуватирольнезалежноїідентичностінарівнікоманди.ЕкспертзбезпекипісочницьКентонВардакритикуєцюмодель,вважаючи,щопрямепризначенняШІунікальнихобліковихзаписівнезможеадаптуватисядовеличезнихмасштабівзавданьіпідірвемеханізмлюдськоїпідзвітності.Вінзазначає,щоагентинеможутьвиступатисуб'єктамивідповідальностініюридично,ніадміністративно,івсідозволинаопераціїповинніпоходитивідконкретнихживихлюдей.Вардапропагуєвикористаннямоделібезпекинаосновіможливостей,щозабезпечуєвідстеженнядійШІдоконкретногоініціатора.
Переглянути оригінал
Ця сторінка може містити контент третіх осіб, який надається виключно в інформаційних цілях (не в якості запевнень/гарантій) і не повинен розглядатися як схвалення його поглядів компанією Gate, а також як фінансова або професійна консультація. Див. Застереження для отримання детальної інформації.
  • Нагородити
  • 4
  • 1
  • Поділіться
Прокоментувати
Додати коментар
Додати коментар
OrderCancellerAfterTheRain
· 2год тому
Динамічна стратегія набагато краща за позикові сертифікати, але як вирішити вибух прав у великомасштабних сценаріях?
Переглянути оригіналвідповісти на0
BorrowedHalo
· 3год тому
Простіше кажучи, це питання довіри: довіряти коду чи людині? Жодна сторона не має ідеальної відповіді.
Переглянути оригіналвідповісти на0
Low-PolyEarth
· 3год тому
Механізм безпеки ідентифікації +1, але скільки потрібно зберігати аудиторські журнали для AI-специфічних облікових записів? Витрати на відповідність не низькі.
Переглянути оригіналвідповісти на0
StopLossSparrow
· 3год тому
Пакет дозволів Claude досить детальний, але проблема відстеження, про яку говорив Кентон, справді вражає. Чи буде винною ШІ, чи людина?
Переглянути оригіналвідповісти на0
  • Закріплено