Назначение специальных ролей, требование еженедельного отчета — как Anthropic распределяет задачи ИИ?

Согласно мониторингу Beating, Anthropic недавно опубликовал инженерный опыт работы в течение нескольких месяцев над командой совместной работы человека и ИИ. Множество сотрудников и несколько агентов с независимыми системными учетными данными вместе работают в Slack. Агенты напрямую подключаются к списку команды и потокам общения, как и человеческие сотрудники, с четким разделением труда и самостоятельным продвижением проектов.

Чтобы эффективно интегрировать агентов в команду, сотрудничество по умолчанию делает всю работу полностью открытой. Поскольку агенты полностью полагаются на извлекаемый текст для понимания контекста, компания устанавливает границы безопасности на уровне рабочей области и по умолчанию полностью открывает их для агентов, избегая громоздких решений по авторизации отдельных документов. Команда назначает специализированные роли различным агентам, написав файлы навыков (Skill files) (например, поручая определенному агенту роль менеджера по выпуску программного обеспечения), чтобы предотвратить фрагментацию информации в команде из-за того, что каждый сотрудник запускает своего личного ИИ.

Самостоятельность агентов прямо пропорциональна их демонстрируемой надежности. На практике один руководитель инженерного отдела отправил агента самостоятельно исправить 500 ошибок и потребовал, чтобы агент еженедельно представлял отчеты о рефлексии, содержащие ошибки и уроки, чтобы избежать их повторения. Для снижения рисков команда использует механизм двойного подтверждения (Doer-Verifier), когда один агент проверяет работу другого. Когда агент получает достаточное доверие и начинает работать самостоятельно, команда также тренирует и учит агента экономить человеческое внимание, объединяя повседневные запросы и устанавливая защитные барьеры для рабочей нагрузки, чтобы обеспечить устойчивую работу команды человек-ИИ.