Técnicos da OpenAI questionam ponto por ponto as recomendações de hardware do V4: o capítulo que surpreendeu a indústria com o V3 desta vez é "inesperado"

De acordo com o monitoramento Beating, o técnico da OpenAI Clive Chan afirmou que o relatório técnico V4 ainda é de nível superior, mas a seção de recomendações de hardware para fabricantes de chips foi “surpreendentemente medíocre ou até incorreta”, em contraste com o V3. A seção de hardware do V3, com perguntas e respostas, foi uma das discussões mais populares na conferência acadêmica ISCA, com recomendações específicas até os padrões de interconexão atualmente em desenvolvimento na indústria, enquanto o V4 ficou muito mais vago.

Chan levantou questionamentos ponto a ponto. Sobre o consumo de energia, o relatório afirma que a otimização de software faz com que o cálculo, armazenamento e comunicação do chip operem simultaneamente em plena carga, recomendando que os fabricantes reservem mais margem de energia. Chan acredita que isso é “exatamente o oposto”: o consumo total de energia do chip é limitado pelo processo físico, e deixar mais margem de energia significa reduzir a frequência de operação, o que diminui a capacidade de processamento. Sobre a forma de transmissão de dados entre GPUs, o relatório afirma que é preferível que a GPU leia os dados ativamente (pull), em vez de empurrar (push), porque o custo de notificação do push é muito alto. Chan questiona essa avaliação, argumentando que o pull é na verdade mais lento e que a capacidade de processamento da placa de rede deve ser aprimorada. No entanto, eles podem estar discutindo questões de níveis diferentes: o relatório fala sobre o custo do mecanismo de notificação, enquanto Chan se refere ao atraso na transmissão em si. Sobre a função de ativação, o relatório recomenda substituir o SwiGLU por funções mais simples para reduzir a carga de cálculo, mas Chan acha desnecessário, pois o Sonic MoE já demonstrou que usar SwiGLU ainda pode alcançar desempenho ótimo. Chan suspeita que a DeepSeek possa “intencionalmente enfraqueceu essa seção”.