Призначення спеціальних ролей, вимога щотижневого звіту — як Anthropic доручає завдання ШІ?

За моніторингом Beating, Anthropic нещодавно оприлюднив інженерний досвід внутрішньої роботи команд людино-машинної співпраці протягом кількох місяців. Кілька співробітників разом з кількома агентами, які мають незалежні системні облікові дані, працюють у Slack. Агенти безпосередньо інтегровані в командний список та комунікаційні потоки, поділяючи завдання та автономно просуваючи проекти, як людські працівники.

Щоб ефективно інтегрувати агентів у команду, співпраця за замовчуванням робить роботу повністю відкритою. Оскільки агенти повністю покладаються на текст, який можна знайти, для розуміння контексту, компанія встановлює межі безпеки на рівні робочого простору та за замовчуванням повністю відкриває доступ для агентів, уникаючи складних рішень щодо авторизації окремих документів. Команда призначає спеціалізовані ролі різним агентам через створення файлів навичок (Skill files) (наприклад, призначаючи певному агенту роль менеджера з випуску програмного забезпечення), щоб запобігти фрагментації інформації в команді через запуск окремих ШІ співробітниками.

Автономія агента пропорційна його надійності. На практиці інженерний керівник доручив агенту самостійно виправити 500 помилок і вимагав, щоб агент щотижня подавав звіт про помилки та отримані уроки, щоб уникнути повторення. Щоб зменшити ризики, команда використовує механізм подвійного підтвердження (Doer-Verifier), де один агент перевіряє роботу іншого. Коли агент отримує достатню довіру і працює самостійно, команда також навчає та спрямовує агента економити увагу людини, об'єднуючи щоденні запити та встановлюючи обмеження навантаження, щоб забезпечити сталу роботу людино-машинної команди.