Acabo de ver que el equipo de Alibaba's Qwen lanzó Qwen-Scope como código abierto, y honestamente este módulo de interpretabilidad parece bastante sólido. Está entrenado en sus modelos Qwen3 y Qwen3.5, así que básicamente están facilitando la comprensión de lo que sucede dentro de estos modelos.

Los casos de uso son bastante interesantes—puedes controlar las salidas de inferencia, hacer clasificación y síntesis de datos, optimizar el entrenamiento y analizar muestras de evaluación. No es solo teoría, en realidad es útil para los constructores. Están lanzando pesos para siete modelos principales en configuraciones densas y dispersas, además de 14 conjuntos de pesos de autoencoder disperso.

Qwen manteniéndose al día en el juego de código abierto. Me pregunto cuántas personas realmente usarán esto para producción versus solo experimentar.