API Google Gemini викликав неймовірно високі витрати через вразливість «привидних рахунків»: видалення кешу також знімало кошти, а нульовий результат також оподатковувався

Згідно з моніторингом Beating, нещодавно форум розробників Google AI повідомив про кілька випадків неконтрольованого обліку системи оплати Gemini API у надзвичайних ситуаціях. Кілька розробників під час нормального використання стикнулися з великими несподіваними списаннями через вразливості в системі, наприклад, один з них був знятий майже 27 000 юанів за короткий період у 12 годин. Наразі команда Google з обліку та технічна команда все ще перекладають відповідальність один на одного і не оприлюднили офіційних заяв про виправлення або швидких каналів повернення коштів.

За результатами розслідування, основними двома ключовими багами, що спричинили величезні рахунки для розробників, є: перше — вразливість «привидного кешу», коли контекст, створений через API, втрачає термін дії або видаляється, і фронтенд-список управління очищується, але обчислювальна частина Google продовжує списувати гроші за годину, що йде з рахунку, у швидкості тисяч юанів; друге — пастка «безкінечного циклу мислення», коли при увімкненні інструментів пошуку в мережі модель втрачає обмеження «бюджету мислення», що призводить до безкінечних роздумів при обробці простих завдань, що вичерпують до 64000 токенів і викликають тайм-аут, навіть якщо в кінці вихід відсутній («жодної відповіді»), Google все одно повністю стягує зростаючу у 1500 разів вартість мислення.

Через серйозну затримку у системі обліку Google Cloud, яка становить від 32 до 72 годин, і відсутність автоматичних механізмів обмеження, розробники отримують великі списання ще до отримання попереджень. Через ігнорування офіційною службою підтримки та відсутність відповідей на форумах, щоб уникнути фінансових ризиків, деякі постраждалі розробники вже оголосили про повне припинення використання кешу контексту та моделей мислення Gemini у виробничому середовищі.