Por que o grande modelo não consegue gerar "Ma Jiaqi"? A varredura na lista completa de tokens do MiniMax revelou que quase 5% dos tokens foram esquecidos durante o treinamento posterior

Question

De acordo com o monitoramento do Beating, a MiniMax publicou um blog técnico, revelando o processo de investigação da causa raiz que impede seu grande modelo da série M2 de gerar o nome "马嘉祺". A investigação começou com um caso específico e, por fim, revelou um problema de degradação sistêmica que afetou toda a lista de vocabulário.
A causa raiz foi que o tokenizador (componente que divide o texto em unidades processáveis pelo modelo) mesclou "嘉祺" em um token independente durante o treinamento.
Na fase de pré-treinamento, o modelo viu uma grande quantidade de textos da internet e aprendeu esse token; mas nos dados de diálogo posteriores ao treinamento, havia menos de 5 amostras contendo "嘉祺".
Durante o pós-treinamento, tokens de alta frequência como marcações tool_call, símbolos de código, etc., continuaram a atualizar o espaço vetorial ao redor, empurrando tokens de baixa frequência como "嘉祺" para direções incorretas.
O modelo ainda "reconhece" 马嘉祺 e consegue responder informações relacionadas com precisão, mas perdeu a capacidade de gerar esse token na saída.
A equipe então realizou uma varredura completa na lista de aproximadamente 200 mil tokens, descobrindo que cerca de 4,9% dos tokens apresentaram degradação significativa.
A degradação mais severa ocorreu no japonês: 29,7% dos tokens japoneses sofreram degradação acentuada, muito acima do coreano 3,3%, russo 3,7%, chinês 3,9% e inglês 3,5%.
Entre os tokens mais degradados estavam palavras de SEO da internet como "传奇私服" e "无痛人流", que possuem mecanismos semelhantes aos de "嘉祺".
A severa degradação no japonês também resolveu um antigo mistério. Anteriormente, o modelo às vezes misturava caracteres russos ou coreanos em diálogos em japonês, sem uma causa aparente.
A análise mostrou que, após o deslocamento dos parâmetros dos tokens japoneses, eles se confundiam com tokens de outras línguas no espaço vetorial, levando tanto à ativação incorreta de tokens japoneses (mistura de idiomas) quanto à exclusão de tokens chineses de baixa frequência do espaço de probabilidade normal (esquecimento de tokens).
A solução foi criar um conjunto de dados sintéticos que cobrissem toda a lista de vocabulário, permitindo que o modelo treinasse com tarefas simples de repetição para cada token.
O efeito foi imediato: a proporção de respostas em japonês que continham caracteres russos caiu de 47% para 1%, e a estabilidade do parâmetro de saída de toda a lista de vocabulário (similaridade cosseno) aumentou de um mínimo de 0,329 para valores superiores a 0,97.

Por que o grande modelo não consegue gerar "Ma Jiaqi"? A varredura na lista completa de tokens do MiniMax revelou que quase 5% dos tokens foram esquecidos durante o treinamento posterior

Tendências

SummerCreationCamp

IsraelStrikesIranBTCPlunges

EventContractsLive

BrentReturnsTo100

IntelQ2RevenueSurges25%

Fixado