Google Cloud опублікував довідкову архітектуру приватного з’єднання для застосувань RAG

robot
Генерація анотацій у процесі

Новини ME: Повідомлення, 5 квітня (UTC+8). Нещодавно Google Cloud опублікував технічну статтю, в якій представлено еталонну приватну архітектуру, призначену для проєктування генеративних AI-додатків із можливістю Retrieval Augmented Generation (RAG). Ця архітектура підходить для сценаріїв, де системний обмін даними має використовувати приватні IP-адреси і не може проходити через публічний інтернет. Її конструкція використовує зональну модель і включає зовнішню мережу та середовище Google Cloud, яке складається з проєкту маршрутизації, проєкту спільного хосту VPC і трьох проєктів спеціалізованих сервісів. Архітектура інтегрує такі ключові сервіси, як Cloud Interconnect/Cloud VPN, Network Connectivity Center, Cloud Router, Private Service Connect, Shared VPC, Cloud Armor, Application Load Balancer та VPC Service Controls. У статті детально описано три основні маршрути трафіку: потік заповнення даних для RAG, потік інференсу та потік керування й маршрутизації; мета — забезпечити підприємствам AI-робочі навантаження безпечну й надійну інфраструктуру завдяки наскрізному приватному підключенню та багаторівневому контролю безпеки. (Джерело: InFoQ)

Переглянути оригінал
Ця сторінка може містити контент третіх осіб, який надається виключно в інформаційних цілях (не в якості запевнень/гарантій) і не повинен розглядатися як схвалення його поглядів компанією Gate, а також як фінансова або професійна консультація. Див. Застереження для отримання детальної інформації.
  • Нагородити
  • Прокоментувати
  • Репост
  • Поділіться
Прокоментувати
Додати коментар
Додати коментар
Немає коментарів
  • Закріпити