Только что увидел, что команда Alibaba Qwen выпустила Qwen-Scope как open-source, и честно говоря, этот модуль интерпретируемости кажется довольно надежным. Он обучен на их моделях Qwen3 и Qwen3.5, так что по сути они делают его более удобным для понимания того, что происходит внутри этих моделей.

Применения довольно интересные — вы можете управлять выводами при выводе, заниматься классификацией данных и синтезом, оптимизировать обучение и анализировать образцы оценки. Это не просто теоретические вещи, а действительно полезно для разработчиков. Они выпускают веса для семи основных моделей в рамках плотных и разреженных настроек, а также 14 наборов весов разреженных автоэнкодеров.

Qwen идет в ногу с open-source движением. Интересно, сколько людей действительно будут использовать это для производства, а сколько — просто для экспериментов.