Бюлетень CoinWorld повідомляє, що технічний фахівець OpenAI Клайв Чан заявив, що загальний технічний звіт V4 залишається на високому рівні, але розділ з апаратними рекомендаціями для виробників чипів «виявився несподівано посереднім або навіть містив помилки», що контрастує з V3.


Розділ апаратного забезпечення V3 з питаннями та відповідями був одним із найгарячіших обговорень на академічній конференції ISCA, і рекомендації були конкретними, враховуючи стандарти інтерконекту, що розробляються в галузі, тоді як V4 став більш абстрактним.
Чан по черзі висловлював сумніви, вважаючи, що рекомендації щодо енергоспоживання «якраз мають протилежний ефект», і сумнівався у виборі способу передачі даних між GPU.
Щодо функцій активації, Чан вважає, що рекомендація використовувати більш просту функцію замість SWIGLU для зменшення обчислювального навантаження є непотрібною, оскільки Sonic Moe вже довів, що використання SWIGLU все одно може досягти оптимальної продуктивності.
Переглянути оригінал
Ця сторінка може містити контент третіх осіб, який надається виключно в інформаційних цілях (не в якості запевнень/гарантій) і не повинен розглядатися як схвалення його поглядів компанією Gate, а також як фінансова або професійна консультація. Див. Застереження для отримання детальної інформації.
  • Нагородити
  • Прокоментувати
  • Репост
  • Поділіться
Прокоментувати
Додати коментар
Додати коментар
Немає коментарів
  • Закріпити