Google Gemini активирует API взаимодействий: переработка интеллектуальных агентов, конец «призрачных счетов»

robot
Генерация тезисов в процессе
ME AI Сообщение, согласно мониторингу Beating, Google официально установил API взаимодействий как интерфейс по умолчанию в Gemini API и Google AI Studio, а существующий интерфейс generateContent перешел в режим обслуживания. Новый интерфейс объединяет многократные диалоги, размышления модели, вызовы инструментов и результаты выполнения, и сохраняет их на сервере как ресурс Interaction. Самое очевидное преимущество — экономия денег и усилий. Поскольку состояние диалога автоматически сохраняется на сервере, при многократных чатах клиенту достаточно отправлять только ID предыдущего взаимодействия, и Google сможет автоматически повторно использовать его и повышать вероятность кеширования, значительно сокращая расходы на токены. Для задач, требующих выполнения в песочнице или глубокого поиска, разработчики могут включить фоновый режим, позволяющий выполнять работу асинхронно в фоновом режиме. Кроме того, промежуточные шаги, такие как размышления модели и вызовы инструментов, полностью видимы, что облегчает своевременное обнаружение ошибок в работе интеллектуальных агентов. Перестройка на низком уровне напрямую решила проблему кризиса с оплатой, возникшую в начале июня. Тогда после ручного удаления кеша из-за задержки синхронизации с облаком, ресурсы, уже отмененные, продолжали работать в фоновом режиме, что привело к тому, что некоторые аккаунты были неожиданно списаны почти на 27 000 юаней за 12 часов. Кроме того, при подключении к сети модель легко застревает в логической петле, и в состоянии «нулевого вывода», когда не дается никакого ответа, она все равно списывает плату за 6.4 миллиона токенов. API взаимодействий заменил ручное удаление кеша на использование «неявного кеширования», размещенного на сервере, и позволяет разработчикам контролировать и останавливать шаги thought, обеспечивая более безопасную защиту от неправильных начислений. Поскольку будущие передовые модели и функции интеллектуальных агентов Google (например, Deep Research) будут поддерживать только API взаимодействий, официальные лица рекомендуют разработчикам как можно скорее завершить адаптацию. (Источник: BlockBeats)
Посмотреть Оригинал
На этой странице может содержаться сторонний контент, который предоставляется исключительно в информационных целях (не в качестве заявлений/гарантий) и не должен рассматриваться как поддержка взглядов компании Gate или как финансовый или профессиональный совет. Подробности смотрите в разделе «Отказ от ответственности» .
  • Награда
  • комментарий
  • Репост
  • Поделиться
комментарий
Добавить комментарий
Добавить комментарий
Нет комментариев
  • Закреплено