Vantagens e desvantagens das etiquetas duras + Caminho ③ destilação colaborativa:

✅ Implementação simples / baixo custo computacional / também aplicável a APIs de caixa preta, ajuste de instruções / geração de dados sintéticos muito eficaz
❌ Menos informação do que etiquetas suaves, não mostra a confiança e a relação com tokens
Destilação colaborativa: treinamento simultâneo de professor e aluno, progresso conjunto, Meta treinou Llama 4 Scout usando essa técnica, mas o treinamento é mais complexo