Google Cloud опубликовала эталонную архитектуру приватных соединений для приложений RAG

ME News: сообщение, 5 апреля (UTC+8). Google Cloud недавно опубликовал техническую статью, в которой представлена частная эталонная архитектура для приложений генеративного ИИ, специально предназначенная для возможностей Retrieval-Augmented Generation (RAG). Эта архитектура подходит для сценариев, где системная связь должна использовать частные IP-адреса и не может проходить через общедоступный интернет. Ее конструкция использует региональный режим и включает внешнюю сеть и среду Google Cloud, которая состоит из проекта маршрутизации, проекта хостов Shared VPC и трех проектов выделенных сервисов. В архитектуру интегрированы ключевые сервисы, такие как Cloud Interconnect/Cloud VPN, Network Connectivity Center, Cloud Router, Private Service Connect, Shared VPC, Cloud Armor, Application Load Balancer и VPC Service Controls. В статье подробно описаны три основные траектории трафика: поток заполнения данных для RAG, поток вывода (инференса) и поток управления и маршрутизации. Цель — обеспечить для корпоративных AI-нагрузок безопасную и надежную инфраструктуру за счет сквозного частного подключения и многоуровневого контроля безопасности. (Источник: InFoQ)