Як налаштувати ліміт витрат та попередження у Gate.AI

Цей посібник описує, як використовувати Gate.AI для налаштування захисних бар'єрів та попереджувальних повідомлень, щоб реалізувати контроль витрат на рівні організації. Після завершення налаштувань ви зможете обмежити обсяг споживання моделей для організації або її членів, а також автоматично отримувати сповіщення при досягненні встановлених порогів або при виникненні аномального використання.

Після завершення цього посібника ви зможете:

• Налаштувати ліміти споживання на рівні організації
• Налаштувати ліміти споживання для членів
• Встановити період скидання лімітів
• Увімкнути push-повідомлення для організації
• Налаштувати URL-адресу Webhook для зворотного виклику
• Отримувати сповіщення про пороги лімітів та аномальне використання
• Створити базовий механізм управління витратами на AI

Перед початком переконайтеся, що виконуєте наступні умови:

• Маєте обліковий запис компанії Gate.AI
• Маєте права адміністратора організації
• Створили організацію
• Створили принаймні один обліковий запис члена або API-ключ
• Маєте сервер, здатний приймати HTTPS-запити Webhook

Крок 1: Перехід до сторінки налаштувань захисних бар'єрів

Контроль лімітів споживання реалізується за допомогою функції «Guardrails» у Gate.AI.

Шлях дії:

Plain Консоль → Налаштування → Захисні бар'єри

Після входу ви зможете переглянути поточні правила лімітів, створені для організації, включаючи:

• Ліміт організації
• Ліміт для членів
• Обмеження API-ключів
• RPM (запитів за хвилину) обмеження
• Період бюджету

Якщо правила ще не створені, натисніть «Додати налаштування захисного бар'єра» у верхньому правому куті для початку налаштувань.

Крок 2: Встановлення ліміту споживання для організації

Ліміт організації використовується для контролю максимальної суми витрат за визначений період.

Натисніть:

Plain Додати налаштування захисного бар'єра → Ліміт організації

Приклад конфігурації:

Plain Назва: Organization Guardrail

Бюджет: 30 USD

Період скидання: Щоденно

Після збереження система буде постійно відстежувати загальні витрати організації за кожен період.

Очікуваний результат:

Plain Ліміт організації: 30 USD / щодня

Ліміт організації є першим рівнем захисту для корпоративного контролю витрат. Для команд, що тільки починають використовувати AI-сервіси, рекомендується встановлювати низькі ліміти та коригувати їх відповідно до фактичного використання.

Якщо ви створюєте повну систему управління корпоративними витратами, рекомендується спершу ознайомитися з основами Управління витратами AI (AI Cost Management), а потім розробити стратегію бюджету.

Крок 3: Встановлення ліміту споживання для членів

Ліміт організації контролює загальні витрати, тоді як ліміт для членів дозволяє додатково обмежити ресурси окремого користувача.

Натисніть:

Plain Додати налаштування захисного бар'єра → Ліміт для членів

Приклад конфігурації:

Plain Назва: Team A Guardrail

Бюджет: 20 USD

Період скидання: Щоденно

Після збереження система буде окремо підраховувати витрати кожного члена відповідно до правил.

Очікуваний результат:

Plain Ліміт для членів: 20 USD / щодня

Для команд із кількома учасниками рекомендується одночасно налаштовувати ліміти для організації та для членів, щоб уникнути ситуацій, коли окремі користувачі через помилки або аномальні запити витрачають багато ресурсів.

Крок 4: Налаштування адреси push-повідомлень для сповіщень

Обмеження витрат дозволяє контролювати витрати, а push-повідомлення — виявляти аномалії заздалегідь.

Шлях дії:

Plain Консоль → Налаштування → Відправлення повідомлень

У полі «URL-адреса зворотного виклику» введіть URL-адресу Webhook, здатну приймати HTTPS-запити:

Приклад:

Plain

Натисніть «Зберегти», і Gate.AI надішле запит для підтвердження.

Ваш сервер має відповісти:

JSON { "status": "ok" }

Очікуваний результат:

Plain Перевірка URL-адреси пройдена Webhook успішно підтверджено

Рекомендується використовувати внутрішню систему оповіщень компанії як єдину точку прийому, а потім перенаправляти повідомлення до Feishu, корпоративного WeChat, Slack або поштової системи.

Крок 5: Увімкнення push-повідомлень для сповіщень

Після налаштування Webhook можна активувати функцію push-повідомлень.

Шлях дії:

Plain Консоль → Налаштування → Відправлення повідомлень → Сповіщення

Увімкніть перемикач «Сповіщення».

Очікуваний результат:

Plain Push-повідомлення: увімкнено

Після активації, коли обсяг витрат досягне встановленого порогу або виникне аномальне використання, система автоматично надішле JSON-повідомлення на налаштований Webhook.

Типові сценарії:

• Близькість до ліміту організації
• Аномальне зростання витрат членів
• Аномальне збільшення кількості API-запитів
• Часті виклики, що активують обмежувальні політики

Крок 6: Перевірка правильності спрацьовування сповіщень

Після налаштувань рекомендується провести тест.

Кроки перевірки:

1. Створіть тестовий сценарій витрат.
2. Імітуйте збільшення ліміту.
3. Перевірте оновлення статистики витрат.
4. Перегляньте лог сервісу Webhook.
5. Переконайтеся, що Gate.AI надіслав подію.

Приклад події:

JSON { "event": "org_quota_threshold", "org_id": 12345, "rule_name": "Попередження системи лімітів" }

Очікуваний результат:

Plain Webhook успішно отримано

Якщо повідомлення успішно отримано, механізм сповіщень працює коректно.

Чим відрізняються ліміт організації та ліміт для членів?

Gate.AI пропонує багаторівневу систему контролю лімітів.

Рекомендується одночасно активувати обидва рівні — ліміт організації та ліміт для членів, щоб створити двошарову систему управління витратами.

Як рекомендується налаштовувати захисні бар'єри?

Різні за масштабом команди потребують різних стратегій лімітів.

Реальні значення слід коригувати залежно від типу моделей, частоти викликів та бізнес-сценаріїв.

Якщо ваша організація керує кількома постачальниками моделей, рекомендується використовувати архітектуру AI Gateway для централізованого управління витратами, правами та доступом до моделей.

Що робити, якщо не надходять повідомлення?

Якщо система досягла умов сповіщення, але повідомлення не отримано, перевірте:

Перевірка Webhook-адреси

Переконайтеся, що:

• Використовується HTTPS
• Домен доступний
• Відсутні блокування фаєрволом

Перевірка відповіді сервера

Переконайтеся, що сервер повертає:

JSON { "status": "ok" }

Перевірка статусу push-повідомлень

Переконайтеся, що:

Plain Push-повідомлення: увімкнено

а не:

Plain Push-повідомлення: вимкнено

Перевірка логів сервера

Переконайтеся, що отримано POST-запит від Gate.AI.

Що робити далі?

Після налаштування захисних бар'єрів ви можете вдосконалити управління витратами на рівні організації.

З розширенням команди рекомендується налаштувати ​RBAC (ролеве управління доступом) для розмежування прав членів, команд і додатків.

Для великих організацій можливо створити ​Стратегію управління AI на рівні організації, яка централізовано керуватиме бюджетами, аудитом, доступом до моделей та безпекою.

Крім того, можна досліджувати додаткові можливості:

• Управління життєвим циклом API-ключів
• Уніфіковане маршрутизація кількох моделей
• Аналіз витрат команд
• Корпоративна система аудиту

FAQ

Питання: Чи потрібно одночасно налаштовувати ліміт організації та ліміт для членів?

Відповідь: Рекомендується. Ліміт організації контролює загальні витрати, а ліміт для членів — ресурси окремих користувачів. Разом вони забезпечують більш надійний захист від перевитрат.

Питання: Чому витрати продовжують виникати після досягнення ліміту?

Відповідь: Перевірте, чи збережені правила захисних бар'єрів і чи правильно включені відповідні члени або API-ключі.

Питання: Чому не надходять повідомлення про сповіщення?

Відповідь: Перевірте доступність Webhook-адреси, активність push-повідомлень і правильність відповіді сервера.

Питання: Чи обов’язково використовувати HTTPS для Webhook?

Відповідь: Так. Поточна підтримка лише HTTPS забезпечує безпеку передачі повідомлень.

Питання: Чи можна надсилати повідомлення безпосередньо до Feishu або WeChat?

Відповідь: Gate.AI використовує Webhook для надсилання JSON-даних. Ви можете обробляти ці повідомлення на сервері й перенаправляти їх до Feishu, WeChat, Slack або поштових систем.