Обновление Exa Highlights: краткое содержание из 500 символов соответствует точности полного текста из 8000 символов, использование токенов уменьшено в 16 раз

Согласно мониторингу Dongcha Beating, компания AI поискового API Exa объявила о значительном обновлении функции Highlights. Highlights — это возможность Exa извлекать плотные фрагменты резюме, релевантные запросам, из веб-страниц, генерируемые в реальном времени (не кэшируются) в течение 100 мс для каждого запроса. В тесте бенчмарка SimpleQA, Highlights от Exa длиной 500 символов достигла точности, сравнимой с оригинальным полным текстом длиной 8000 символов, при этом потребление токенов снизилось в 16 раз; подсказки длиной 4k символов показали лучшие результаты, чем полные тексты длиной 32k символов. Улучшение особенно заметно в сценариях работы с длинными документами, таких как техническая документация по кодированию, API-справочники, документация SDK и научные статьи: при бюджете в 500 символов подсказки достигли точности 60%, тогда как полный текст — всего 6%. Собственные конечные точки агента Exa, такие как /answer, Deep и Websets, используют Highlights в качестве базового механизма поиска без чтения исходного содержимого страницы. Highlights — это не новая функция, а существующая опция извлечения контента в API Exa. Это обновление реализовано на уровне модели, и все запросы с включенным параметром enableHighlights автоматически получат выгоду без необходимости изменения кода.