A empresa de IA de Musk, xAI, lançou oficialmente o código-fonte do Grok-1

A PANews informou em 18 de março que a empresa de inteligência artificial xAI de Musk anunciou que abriria os pesos e a arquitetura de seu modelo híbrido Grok-1, de 314 bilhões de parâmetros. Grok-1 é um modelo de linguagem grande treinado do zero pelo xAI com uma arquitetura de modelo especialista híbrido, onde 25% do peso está ativo em um determinado token. Os pesos do modelo base e a arquitetura de rede estão agora abertos sob a licença Apache 2.0. A fase de pré-treinamento do Grok-1 terminou em outubro de 2023 e atualmente está sendo lançada com pontos de verificação de modelo base bruto e sem ajuste fino para qualquer aplicação específica. Os usuários interessados em usar o modelo podem seguir o guia no github.com/xai-org/grok.