0.5T параметров с открытым исходным кодом, Grok 4.2 — это искренность или распродажа запасов?

Байцзюэ Вэнь сообщает, что Маск объявил в X, что планирует открыть исходный код текущей модели Grok 4.2 (с 0,5 трлн параметров) до конца 2026 года. Хотя размер модели относительно небольшой, Маск подчеркнул, что открытая версия все равно очень полезна для сообщества разработчиков. Ранее Маск признал, что из-за недостатков в качестве данных для обучения, полноте и пропорциях рецептов, базовая модель Grok 4.2 испытывает трудности с выполнением сложных программных задач. Однако для обычной обработки естественного языка и базовых задач логического вывода модель с 5000 миллиардами параметров все еще обладает сильными характеристиками. Открытие больших моделей — одна из стратегий XAI. В марте 2024 года XAI уже открыла исходный код модели Grok-1 с 314 миллиардов параметров, которая тогда была самой крупной открытой моделью.