Оновлення Exa Highlights: 500-символьний підсумок відповідає точності повного тексту на 8000 символів, використання токенів зменшено в 16 разів

Згідно з моніторингом Dongcha Beating, компанія AI пошукового API Exa оголосила про значне оновлення функції Highlights. Highlights — це здатність Exa витягувати щільні короткі підсумки, релевантні запитам, з веб-сторінок, генеровані в режимі реального часу (не кешовані) протягом 100 мс для кожного запиту. У тесті бенчмарку SimpleQA, Highlights від Exa з 500 символами відповідали точності оригінального повного тексту довжиною 8000 символів, при цьому споживання токенів зменшилося в 16 разів; підсумки довжиною 4 тисячі символів працювали краще, ніж повні тексти довжиною 32 тисячі символів. Покращення особливо помітне у сценаріях довгих документів, таких як технічна документація з кодування, API-референси, документація SDK та наукові статті: з бюджетом у 500 символів, Highlights досягли точності 60%, тоді як повний текст — лише 6%. Власні кінцеві точки агентів Exa, такі як /answer, Deep і Websets, використовують Highlights як базовий механізм пошуку без читання оригінального вмісту сторінки. Highlights — це не нова функція, а існуюча опція витягання контенту в API Exa. Це оновлення відбувається на рівні моделі, і всі запити з параметром enableHighlights автоматично отримають переваги без необхідності змін у коді.