Google Cloud опублікував довідкову архітектуру приватного з’єднання для застосувань RAG

Новини ME повідомлення, 5 квітня (UTC+8), Google Cloud нещодавно опублікував технічну статтю, яка описує приватну довідкову архітектуру, спеціально розроблену для генеративних AI-застосунків із можливостями генерації з розширеним пошуком (RAG). Ця архітектура підходить для сценаріїв, де системна комунікація має використовувати приватні IP-адреси та не може проходити через публічний інтернет. Її дизайн використовує модель на рівні регіонів і включає зовнішню мережу та середовище Google Cloud, яке, у свою чергу, складається з проєкту маршрутизації, проєкту хостів Shared VPC та трьох проєктів для спеціалізованих сервісів. В архітектурі інтегровано ключові сервіси, зокрема Cloud Interconnect/Cloud VPN, Network Connectivity Center, Cloud Router, Private Service Connect, Shared VPC, Cloud Armor, Application Load Balancer та VPC Service Controls. У статті докладно описано три основні шляхи трафіку: потік заповнення RAG-даних, потік інференсу (висновків) та потік для керування й маршрутизації, з метою забезпечення безпечної та надійної інфраструктури для корпоративних AI-робочих навантажень завдяки наскрізному приватному підключенню та ієрархічному контролю безпеки. (Джерело: InFoQ)