API Google Gemini викликав неймовірно високі ціни через вразливість «привидного рахунку»: видалення кешу також списує кошти, а нульовий вивід також оплачується

robot
Генерація анотацій у процесі
Згідно з моніторингом Beating, нещодавно форум розробників Google AI повідомив про кілька випадків неконтрольованого обліку системи оплати Gemini API у надзвичайних ситуаціях. Кілька розробників під час нормального використання стикнулися з величезними несподіваними списаннями через вразливості в системі, наприклад, один з них був знятий майже 27 000 юанів за короткі 12 годин. Наразі команда Google з обліку та технічна команда все ще перекладають відповідальність один на одного і не оприлюднили офіційних заяв про виправлення або швидких каналів повернення коштів. За результатами розслідування, основними двома ключовими багами, що спричинили величезні рахунки для розробників, є: перший — вразливість «привидного кешу», коли контекст, створений через API, втрачає термін дії або видаляється, і фронтенд-список управління очищується, але облік Google все ще продовжує списувати гроші з швидкістю кілька тисяч юанів за годину; другий — пастка «безкінечного циклу мислення», коли при увімкненні інструментів пошуку в мережі модель втрачає обмеження «бюджету мислення», що призводить до безкінечних роздумів при обробці простих завдань, що вичерпують до 64 000 токенів і викликають аварійне завершення, навіть якщо в кінці «відсутній вихід» (жодної корисної відповіді), Google все одно повністю стягує зростаючу у 1500 разів вартість мислення. Через серйозну затримку системи обліку Google Cloud від 32 до 72 годин і відсутність автоматичних механізмів обмеження, розробники отримують великі списання ще до отримання попереджень. Через ігнорування офіційною підтримкою та відсутність відповідей на форумі, щоб уникнути фінансових ризиків, деякі постраждалі розробники вже оголосили про повну відмову від кешу контексту та моделей роздумів Gemini у виробничому середовищі.
Переглянути оригінал
Ця сторінка може містити контент третіх осіб, який надається виключно в інформаційних цілях (не в якості запевнень/гарантій) і не повинен розглядатися як схвалення його поглядів компанією Gate, а також як фінансова або професійна консультація. Див. Застереження для отримання детальної інформації.
  • Нагородити
  • Прокоментувати
  • Репост
  • Поділіться
Прокоментувати
Додати коментар
Додати коментар
Немає коментарів
  • Закріплено