vkhosla apresenta o modelo 1-bit Bonsai de 8B, com uso de memória de apenas 1,15GB

robot
Geração de resumo em curso

Notícia ME: Mensagem, 1 de abril (UTC+8). Recentemente, o autor vkhosla apresentou, nas redes sociais, um modelo de pesos de 1-bit denominado 1-bit Bonsai 8B. Segundo a sua descrição, a utilização de memória do modelo é apenas de 1,15 GB e a sua densidade de inteligência (intelligence density) alegadamente excede em mais de 10 vezes a do modelo correspondente em precisão total. As opiniões no artigo afirmam que, em hardware de ponta, o tamanho do modelo foi reduzido em 14 vezes, a velocidade aumentou em 8 vezes e a eficiência energética melhorou em 5 vezes, mantendo ainda competitividade face a outros modelos. A notícia também menciona que este modelo tem melhor compressibilidade, velocidade mais rápida, menor volume e maior eficiência energética do que o modelo anunciado no dia anterior pela Google. O texto original não fornece comparações de desempenho específicas do modelo, o responsável pelo lançamento, detalhes da implementação técnica ou resultados de avaliação completos. (Fonte: InFoQ)

Ver original
Esta página pode conter conteúdos de terceiros, que são fornecidos apenas para fins informativos (sem representações/garantias) e não devem ser considerados como uma aprovação dos seus pontos de vista pela Gate, nem como aconselhamento financeiro ou profissional. Consulte a Declaração de exoneração de responsabilidade para obter mais informações.
  • Recompensa
  • Comentar
  • Republicar
  • Partilhar
Comentar
Adicionar um comentário
Adicionar um comentário
Nenhum comentário
  • Fixar