NVIDIA NeMo RL підтримує пост-тренування з низькою точністю FP8 для навчання з підкріпленням, прискорюючи ітерацію агентів.

robot
Генерація анотацій у процесі
ME News повідомляє, 23 квітня (UTC+8), NVIDIA AI нещодавно оголосила, що її бібліотека з відкритим кодом NVIDIA NeMo RL отримала нову можливість — підтримку використання низькоточної формати FP8 для посттренування з підкріпленням (RL) з метою прискорення відповідних робочих навантажень. Згідно з опублікованою інформацією, на моделі Qwen3-8B-Base використання формату FP8 дозволяє прискорити роботу RL у 1.48 рази. Це прискорення спрямоване на забезпечення швидших ітераційних циклів для використання інструментів агентами та багатокрокових завдань. (Джерело: InFoQ)
Переглянути оригінал
Ця сторінка може містити контент третіх осіб, який надається виключно в інформаційних цілях (не в якості запевнень/гарантій) і не повинен розглядатися як схвалення його поглядів компанією Gate, а також як фінансова або професійна консультація. Див. Застереження для отримання детальної інформації.
  • Нагородити
  • Прокоментувати
  • Репост
  • Поділіться
Прокоментувати
Додати коментар
Додати коментар
Немає коментарів
  • Закріплено