Google Gemini API взлом «призрачных счетов» с астрономическими ценами: удаление кеша также списывает деньги, нулевой вывод тоже считается оплатой

Согласно мониторингу Beating, в последнее время на форуме разработчиков Google AI появились многочисленные экстренные обращения о выходе из-под контроля системы оплаты API Gemini. Множество разработчиков во время обычного использования столкнулись с крупными аномальными списаниями из-за уязвимостей в системном ядре, например, один из них был списан почти 27 000 юаней всего за 12 часов. В настоящее время команда Google по выставлению счетов и техническая команда продолжают перекладывать ответственность друг на друга, не выпустив никаких официальных заявлений о исправлении или быстрых способах возврата средств.

По результатам расследования, основные причины астрономических счетов разработчиков — два ключевых бага: первый — уязвимость «призрачного кэша», когда контекст, созданный через API, истекает или удаляется, а список управляемых элементов на фронтенде очищается, но в бэкэнде Google продолжается «бесконечное» списание по нескольким тысячам юаней в час; второй — ловушка «бесконечного цикла мышления», при включении инструментов поиска в сети, ограничение «бюджета размышлений» модели перестает работать, что приводит к бесконечным рассуждениям при обработке простых задач, в результате чего модель, превысив лимит в 64000 токенов, аварийно завершается по тайм-ауту, даже если она не возвращает никаких полезных ответов, Google полностью списывает увеличенные в 1500 раз расходы на размышления.

Из-за серьезных задержек в системе выставления счетов Google Cloud, составляющих от 32 до 72 часов, и отсутствия автоматического механизма ограничения, разработчики уже были оштрафованы до получения предупреждений. В связи с уклонением официальной поддержки и отсутствием ответов на форумах, для минимизации финансовых рисков некоторые пострадавшие разработчики объявили о полном отказе от использования кэша контекста и модели рассуждений Gemini в производственной среде.