Google(GOOGL.US) оновлює ціну на API Gemini, оплата за використання за рівнями відповідно до кількості запитів

Програма Zhitong Finance дізналася, що Google (GOOGL.US) нещодавно оновила тарифні рівні для Gemini API, а оптимізаційне рішення та ціноутворення визначені на основі фактичних потреб у використанні для логічних обчислень.

Цього разу додані рівні інференс-сервісу включають: стандартний (Standard), гнучкий (Flex), пріоритетний (Priority), пакетний (Batch) і кешування (Caching).

Google заявляє: “Gemini API надає різні механізми оптимізації, які дають змогу досягати балансу між швидкістю виконання, витратами на використання та стабільністю сервісу залежно від конкретних потреб бізнес-навантаження. Незалежно від того, чи ви будуєте чат-бот для реального часу, чи запускаєте великі офлайн-процеси обробки даних, вибір відповідного режиму роботи може суттєво знизити витрати або підвищити ефективність”.

Зокрема, гнучкий рівень інференсу використовує невикористані обчислювальні ресурси в непікові години, пропонуючи знижку 50% від стандартної ціни. Цільова затримка становить від 1 до 15 хвилин, але без гарантії затримки. Рівень Batch API також пропонує знижку 50% від стандартної ставки, а затримка може сягати до 24 годин.

Тарифи для рівня кешування залежать від кількості кешованих токенів (Token) і тривалості зберігання. Його рекомендовано для сценаріїв, де потрібні діалоги з ботами, що виконують складні системні інструкції, повторний аналіз довгих відеофайлів, а також запити до великих масивів документів.

Пріоритетний рівень коштує на 75% до 100% дорожче за стандартну ціну, а затримку можна контролювати на рівні мілісекунд–секунд. Google радить цей рівень для сценаріїв, як-от чат-боти служби підтримки в реальному часі, виявлення шахрайства в реальному часі та бізнес-критичні інтелектуальні помічники тощо.