0.5T параметрів з відкритим кодом, Grok 4.2 — це щирість чи розпродаж залишків?

Звіт з Coinjie.com: Ілон Маск оголосив у X, що планує відкрити вихідний код поточного базового моделі Grok 4.2 (з 0,5 трлн параметрів) до кінця 2026 року. Хоча розмір моделі невеликий, Маск підкреслив, що відкритий варіант все ще має велике практичне значення для спільноти розробників. Раніше Маск відкрито визнав, що через недоліки у якості даних для тренування, їхньому обсягу та пропорціях формули, базова модель Grok 4.2 важко справляється з високорівневими програмістськими викликами. Однак для звичайної обробки природної мови та базових логічних задач базова модель з 5000 мільярдами параметрів все ще має сильні переваги у продуктивності. Відкритий вихідний код великих моделей — одна з стратегій XAI. У березні 2024 року XAI вже відкрив вихідний код моделі Grok-1 з 314 мільярдами параметрів, яка тоді була найбільшою відкритою моделлю.