Lỗ hổng "Hóa đơn ma" giá cắt cổ của API Google Gemini: Xóa bộ nhớ đệm vẫn bị trừ tiền, không xuất ra cũng tính phí

Theo giám sát Beating, gần đây, diễn đàn nhà phát triển AI của Google đã tiết lộ nhiều trường hợp khẩn cấp về hệ thống tính phí của Gemini API bị mất kiểm soát. Nhiều nhà phát triển trong quá trình sử dụng bình thường đã đối mặt với khoản phí bất thường khổng lồ do lỗ hổng hệ thống cơ bản, ví dụ có người bị trừ gần 27.000 nhân dân tệ chỉ trong vòng 12 giờ ngắn ngủi. Hiện tại, đội ngũ lập hóa đơn và kỹ thuật của Google vẫn đang đổ lỗi lẫn nhau về vụ việc này, chưa đưa ra bất kỳ tuyên bố sửa lỗi chính thức hoặc kênh hoàn tiền nhanh chóng nào.

Theo điều tra, nguyên nhân chính gây ra hóa đơn đắt đỏ cho nhà phát triển là hai lỗi cốt lõi: Một là lỗ hổng "bộ đệm ma" (幽灵缓存), khi nhà phát triển tạo bộ đệm ngữ cảnh qua API mà sau khi hết hạn hoặc bị xóa, danh sách quản lý phía frontend đã trống rỗng, nhưng hệ thống tính phí của Google vẫn tiếp tục "chạy rỗng" với tốc độ hàng nghìn nhân dân tệ mỗi giờ; Hai là "bẫy vòng lặp suy nghĩ" (思维死循环), khi kích hoạt các công cụ tìm kiếm trực tuyến, giới hạn ngân sách suy nghĩ của mô hình bị vô hiệu, dẫn đến mô hình rơi vào vòng suy luận vô hạn khi xử lý các nhiệm vụ đơn giản, tiêu tốn hết tối đa 64.000 token rồi bị quá tải và sập nguồn, ngay cả khi kết quả cuối cùng là "không có đầu ra" (không trả về câu trả lời hữu ích nào), Google vẫn tính phí suy nghĩ tăng vọt gấp 1500 lần.

Do hệ thống tính phí của Google Cloud có độ trễ nghiêm trọng từ 32 đến 72 giờ, và thiếu cơ chế tự động giới hạn hoặc cắt đứt khi vượt quá, nhà phát triển đã bị trừ tiền lớn trước khi nhận được cảnh báo. Vì dịch vụ khách hàng chính thức đùn đẩy trách nhiệm, diễn đàn không có phản hồi trực tiếp, để tránh rủi ro tài chính, một số nhà phát triển bị hại đã tuyên bố hoàn toàn ngừng sử dụng bộ đệm ngữ cảnh và mô hình suy luận của Gemini trong môi trường sản xuất.