Google Cloud công bố kiến trúc tham khảo kết nối riêng dành cho ứng dụng RAG

Tin tức ME: Vào ngày 5 tháng 4 (UTC+8), Google Cloud gần đây đã công bố một bài viết kỹ thuật, giới thiệu một kiến trúc tham chiếu kết nối riêng được thiết kế riêng cho các ứng dụng AI tạo sinh có khả năng tạo lập tăng cường bằng truy xuất (RAG). Kiến trúc này phù hợp với các tình huống mà hệ thống liên lạc bắt buộc phải sử dụng địa chỉ IP riêng và không thể đi qua Internet công cộng. Thiết kế của nó theo mô hình theo vùng, bao gồm mạng bên ngoài và môi trường Google Cloud, trong đó môi trường sau được tạo thành từ một dự án định tuyến, một dự án máy chủ Shared VPC và ba dự án dịch vụ chuyên dụng. Trong kiến trúc, các dịch vụ then chốt được tích hợp như Cloud Interconnect/Cloud VPN, Network Connectivity Center, Cloud Router, private service connect, Shared VPC, Cloud Armor, bộ cân bằng tải ứng dụng và VPC Service Controls. Bài viết mô tả chi tiết ba tuyến đường luồng lưu lượng chính gồm luồng nạp dữ liệu RAG, luồng suy luận và luồng quản lý và định tuyến, nhằm cung cấp cơ sở hạ tầng an toàn và đáng tin cậy cho các tác vụ AI của doanh nghiệp thông qua kết nối riêng end-to-end và các cơ chế kiểm soát bảo mật theo lớp. (Nguồn: InFoQ)