Primeira empresa de código aberto do novo CEO anterior da OpenAI, Inkling, cuja arquitetura se inspira no DeepSeek-V3

robot
Geração de resumo em curso
Com base na monitorização da Beating, o Thinking Machines Lab, fundado pela ex-CTO da OpenAI Mira Murati, lançou o seu primeiro modelo geral, o Inkling. O modelo tem um total de 975 mil milhões de parâmetros, 41 mil milhões por ativação, suporta texto, imagens e áudio, e tem um contexto máximo de 1 milhão de tokens.

O Inkling foi treinado do zero, mas a arquitetura MoE foi inspirada principalmente no DeepSeek-V3. No início do pós-treino, também usou dados gerados por modelos abertos, como o Kimi K2.5. Os pesos completos já foram publicados no Hugging Face, sob licença Apache 2.0.

A Thinking Machines reconhece explicitamente que, neste momento, o Inkling não é o modelo mais forte. O seu posicionamento é a personalização e a eficiência. No Terminal Bench 2.1, ao atingir o mesmo desempenho, os tokens utilizados são cerca de um terço dos do Nvidia Nemotron 3 Ultra.
NVDA0,33%
Ver original
Esta página pode conter conteúdos de terceiros, que são fornecidos apenas para fins informativos (sem representações/garantias) e não devem ser considerados como uma aprovação dos seus pontos de vista pela Gate, nem como aconselhamento financeiro ou profissional. Consulte a Declaração de exoneração de responsabilidade para obter mais informações.
  • Recompensa
  • Comentar
  • Republicar
  • Partilhar
Comentar
Adicionar um comentário
Adicionar um comentário
Nenhum comentário
  • Fixado