OpenAI представляє нове оптимізаційне рішення, вартість інференції моделі знижено більш ніж на 50%.

Марс Фінанс повідомляє, що 30 червня, згідно з The Information, інженери OpenAI розробили новий набір технік оптимізації моделей, які знижують вартість виведення моделі більш ніж на 50% і зменшують потребу в GPU від NVIDIA. Повідомляється, що OpenAI у майбутньому може використати частину зекономлених коштів для зниження цін на API-послуги або підвищення ліміту запитів користувачів для таких продуктів, як ChatGPT.
Переглянути оригінал
Ця сторінка може містити контент третіх осіб, який надається виключно в інформаційних цілях (не в якості запевнень/гарантій) і не повинен розглядатися як схвалення його поглядів компанією Gate, а також як фінансова або професійна консультація. Див. Застереження для отримання детальної інформації.
  • Нагородити
  • Прокоментувати
  • Репост
  • Поділіться
Прокоментувати
Додати коментар
Додати коментар
Немає коментарів
  • Закріплено