Google Gemini активує API взаємодій: перебудова агентів, покінчити з «привидами рахунків»

robot
Генерація анотацій у процесі
ME AI Повідомлення, згідно з моніторингом Beating, Google офіційно зробила API взаємодій стандартним інтерфейсом у Gemini API та Google AI Studio, а існуючий інтерфейс generateContent перейшов у режим обслуговування. Новий інтерфейс об’єднуватиме багатократні діалоги, роздуми моделі, виклики інструментів та результати виконання у єдину упаковку, а також зберігатиме їх на сервері як ресурс Interaction. Найбільш очевидна перевага — економія коштів і зусиль. Оскільки стан діалогу автоматично зберігатиметься на сервері, під час багатократних чатів клієнт лише надсилатиме ID попередньої взаємодії, і Google зможе автоматично повторно використовувати його та підвищити ймовірність кешування, значно зменшуючи витрати на Token. Для запуску коду у пісочниці або виконання ресурсомістких завдань, таких як глибокий пошук, розробники можуть увімкнути фоновий режим, щоб робота виконувалася асинхронно у фоновому режимі. Крім того, проміжні кроки, такі як роздуми моделі та виклики інструментів, цілком видно, що полегшує швидке виявлення помилок у роботі штучного інтелекту. Нижній рівень реконструкції безпосередньо вирішив кризу з оплатою, яка виникла на початку червня. Тоді, після ручного очищення кешу та затримки синхронізації з хмарою, ресурси, що були скасовані, все ще працювали у фоновому режимі, що призвело до несподіваного списання майже 27 000 юанів з деяких акаунтів протягом 12 годин. Крім того, при підключенні до мережі модель легко потрапляє у безглузді цикли мислення, і у стані «нульового виходу», коли немає жодної відповіді, все одно стягується плата за 64 000 токенів. API взаємодій тепер використовує серверне «неявне кешування» замість ручного очищення, а також дозволяє розробникам контролювати та зупиняти кроки thought, що забезпечує більш безпечний захист від неправомірних витрат. Оскільки майбутні передові моделі та функції штучного інтелекту Google (наприклад, Deep Research) будуть підтримувати лише API взаємодій, офіційні особи рекомендують розробникам якомога швидше адаптуватися. (Джерело: BlockBeats)
Переглянути оригінал
Ця сторінка може містити контент третіх осіб, який надається виключно в інформаційних цілях (не в якості запевнень/гарантій) і не повинен розглядатися як схвалення його поглядів компанією Gate, а також як фінансова або професійна консультація. Див. Застереження для отримання детальної інформації.
  • Нагородити
  • Прокоментувати
  • Репост
  • Поділіться
Прокоментувати
Додати коментар
Додати коментар
Немає коментарів
  • Закріплено