Prime Intellect переписує Verifiers, а оцінювання тренування агентів можна складати як кубики

robot
Генерація анотацій у процесі
Згідно з моніторингом Beating, платформа для тренування AI Prime Intellect випустила verifiers 0.2.0 і в ньому відкрила попередній перегляд архітектури наступного покоління Verifiers v1. Verifiers — це open-source фреймворк, який призначений для формування завдань для AI Agent, їх виконання та виставлення оцінок; його можна використовувати для оцінювання можливостей і тренування методом підкріпленого навчання.

Prime Intellect також відкрила вихідний код фреймворку для тренування моделей prime-rl. Простими словами, Verifiers відповідає за визначення завдань, інструментів і правил оцінювання, а prime-rl за результатами завдання тренує модель. Розробники можуть самостійно завантажити та розгорнути ці дві збірки інструментів.

Prime Intellect також одночасно керує Environments Hub і Lab. Перший призначений для спільного використання та завантаження готових тренувальних середовищ, а другий надає керовані послуги тренування. Розробники можуть самі розгорнути весь набір інструментів або напряму використовувати середовища та обчислювальну платформу Prime Intellect.

Старі версії Verifiers прив’язують спосіб постановки завдань і виконання Agent. v1 розділяє це на три частини: Taskset визначає, що робити, які інструменти надавати та як виставляти оцінки; Harness визначає, як Agent виконує завдання; Runtime визначає, де запускати завдання — локально, в Docker чи в віддаленому пісочному середовищі.

Одна й та сама низка завдань таким чином може використовувати різні Agent, такі як Codex, Kimi Code, Terminus 2 тощо, а також виконуватися локально, в Docker або в віддаленому пісочному середовищі. Розробникам не потрібно переписувати завдання та правила оцінювання при кожній зміні Agent або середовища виконання.

v1 також може записувати гілкування процесів, такі як виклики sub Agent і стиск контексту, а також зберігати Token ID та логарифмічні ймовірності, необхідні для тренування. Нова версія краще підходить для довгих завдань, що тривають сотні раундів, і також може безпосередньо використовувати траєкторії виконання Agent для підкріпленого навчання. Майбутня версія 1.0.0 ще планує додати середовища з кількома Agent і вдосконалити підтримку фреймворків середовищ на кшталт OpenEnv, NeMo Gym та OpenReward.
Переглянути оригінал
Ця сторінка може містити контент третіх осіб, який надається виключно в інформаційних цілях (не в якості запевнень/гарантій) і не повинен розглядатися як схвалення його поглядів компанією Gate, а також як фінансова або професійна консультація. Див. Застереження для отримання детальної інформації.
  • Нагородити
  • Прокоментувати
  • Репост
  • Поділіться
Прокоментувати
Додати коментар
Додати коментар
Немає коментарів
  • Закріплено