Google предлагает методологию постоянной оценки инженерных решений для решения задач оценки производственной среды AI-агентов

Новости от ME: Сообщение, 4 апреля (UTC+8). В последнее время GoogleCloudTech опубликовал статью, в которой говорится, что полагаться в производственной среде на ручные чаты и субъективные впечатления (то есть «проверку атмосферы») для оценки AI-агентов ненадёжно и может привести к катастрофе. В статье отмечается, что из-за вероятностной природы генеративного AI даже небольшие изменения в подсказках или весах модели могут вызывать значительную деградацию производительности. Для решения этой проблемы в материале предлагается инженерный подход к непрерывной оценке (CE). В рамках этого подхода различают два режима в инженерии AI: режим исследования (лаборатория) и режим защиты (цех/фабрика). Режим исследования делает акцент на поиске потенциала модели с помощью небольшого числа примеров и «проверок атмосферы»; режим защиты фокусируется на стабильности и с помощью оценки на основе датасетов, строгого шлюзования (гейтинг) и автоматизированных метрик гарантирует, что система соответствует целям по уровню обслуживания (SLO). В статье предупреждается, что многие команды надолго задерживаются в режиме исследования. Также в материале в качестве примера приводится распределённая мультиагентная система (система создателей курса), построенная на Cloud Run и протоколе Agent2Agent, чтобы показать практики режима защиты для надёжного, масштабируемого внедрения AI уровня production: за счёт принципа разделения ответственности и выделенных агентов (например, исследователь, судья, конструктор контента, координатор). (Источник: InFoQ)