Чтобы прорвать ситуацию в сообществе с открытым исходным кодом, нужно найти способ получить или синтезировать больше предварительно обученных данных уровня интеллектуальных агентов.

Команда NLP Стэнфордского университета в Twitter заявила, что текущие открытые данные для обучения агентов в основном используются на этапе дообучения, особенно для моделей вроде Qwen. Эти модели, возможно, уже были обучены на большом объеме данных агентов. Они считают, что объем данных агентов, необходимый для обучения отличных открытых моделей с нуля, значительно превышает масштаб, необходимый для дообучения только на открытых весах, что подчеркивает недостаточность данных агентов на этапе предварительного обучения. Источник: InFoQ