アルibabaのQwenチームがQwen-Scopeをオープンソースとして公開したのを見ました、正直この解釈性モジュールはかなりしっかりしているようです。これは彼らのQwen3とQwen3.5モデルで訓練されているので、基本的にこれらのモデルの内部で何が起きているのか理解しやすくしています。

ユースケースはちょっと面白いです—推論出力の制御、データの分類と合成、訓練の最適化、評価サンプルの分析などが可能です。単なる理論的な話ではなく、実際に開発者にとって役立つ内容です。彼らは密集型と疎結合型の7つの主要モデルの重みと、14セットの疎自己符号化器の重みをリリースしています。

Qwenはオープンソースの流れに追いついていますね。実際にこれを本番運用に使う人がどれだけいるのか、それともただ実験用なのか気になるところです。