Desenvolvimento da indústria de IA e dinâmicas de políticas

Os fundadores da Solayer revelaram potenciais riscos de segurança associados a grandes modelos de linguagem, indicando que os agentes de LLM que dependem de um router via API de terceiros apresentam risco de serem alvo de ataques por código malicioso. Os testes mostraram que vários routers têm vulnerabilidades de segurança, chegando mesmo a expor credenciais sensíveis. Além disso, a investigação demonstrou métodos de ataque viáveis e medidas de defesa.

Notícias da Gate, 10 de abril, de acordo com a cotação da Gate, no momento em que esta notícia foi redigida, o TAO (Bittensor) está a cotar a 269.80 dólares, tendo caído 16.28% nas últimas 24 horas. O valor mais alto foi de 341.10 dólares e o mais baixo desceu para 248.60 dólares. O volume de transações nas últimas 24 horas atingiu 14.71 milhões de dólares. A capitalização de mercado atual é de cerca de 2.59B de dólares. O Bittensor é um protocolo open source que suporta uma rede de machine learning descentralizada baseada em blockchain. Os modelos de machine learning treinam de forma colaborativa e recebem recompensas em TAO com base no valor da informação que fornecem ao grupo. O TAO também permite o acesso externo, de modo a que os utilizadores consigam extrair informação da rede e ajustar a atividade da rede de acordo com as suas próprias necessidades. --- Notícias importantes do TAO em breve: 1️⃣ **

O Google lançou a funcionalidade “Notebooks” na aplicação Gemini, permitindo que os utilizadores gerem e organizem centralmente o histórico de chat e os ficheiros, e sincronizem com o NotebookLM, para melhorar a eficiência do fluxo de trabalho. Neste momento, está apenas disponível para utilizadores com subscrição; os utilizadores gratuitos terão de aguardar. Esta funcionalidade permite aos utilizadores organizar e aproveitar os dados de forma mais conveniente, antevendo que haverá mais atualizações no futuro.

A xAI, do empresário Musk, instaurou um processo no estado do Colorado, exigindo a suspensão da entrada em vigor da lei SB 24-205, que pretende impedir que os sistemas de IA produzam discriminação algorítmica. A xAI acusa a lei de violar a liberdade de expressão, pede que seja ajustada a emissão de conteúdos com base numa determinada orientação política, e aponta que existe uma contradição lógica no interior da própria lei. Esta é a segunda ação legal da xAI em matéria de regulamentação da IA, e poderá influenciar a evolução do panorama regulatório da IA em todo os EUA.

O cofundador do Bittensor, Jacob Steeves, respondeu à saída da rede da Covenant AI, propondo a reinicialização do mecanismo de governação da subnet e a introdução de eleições por votação da comunidade para escolher a equipa. Ele acredita que esta é uma oportunidade para redefinir a forma da subnet e criticou as decisões do fundador da Covenant AI.

A Alibaba confirma a apresentação do seu próprio modelo de geração de vídeo HappyHorse-1.0. O modelo é proveniente do departamento de Inovação em IA do grupo Taotian. O HappyHorse-1.0 teve um desempenho excelente em avaliações de terceiros; ainda não foi disponibilizado em open source e está em conformidade com a estratégia recente da Alibaba de manter o acesso fechado. O lançamento do modelo tem como objetivo responder ao desempenho no mercado dos concorrentes e reforçar a competitividade no mercado de MaaS.

A Anthropic anunciou a 9 de abril que o Claude Cowork foi oficialmente disponibilizado para todos os planos pagos, e acrescentou funcionalidades de gestão para utilizadores da versão empresarial, incluindo controlo de acesso por funções, limites máximos de despesas por grupos e um painel de análise de utilização. Este produto pode ser utilizado em aplicações de ambiente de trabalho para macOS e Windows. Focada nas necessidades das empresas, a Anthropic continua a expandir a sua linha de produtos de IA, desde tecnologias para programadores até aplicações a nível de equipas e de empresas.

Andrej Karpathy indica que o entendimento do público sobre as capacidades da IA apresenta uma fissura, dividindo-se em dois grupos: utilizadores comuns que usam a versão gratuita do ChatGPT e profissionais técnicos que utilizam modelos de ponta mediante pagamento. Ele considera que ambos discutem produtos completamente diferentes e sublinha que o avanço na área tecnológica é notável, impulsionado por funções de recompensa verificáveis e pelo valor comercial.

A Anthropic lançou, a 9 de abril, a «Advisor strategy», usando o Opus como consultor em conjunto com Sonnet ou Haiku para executar tarefas, reduzindo custos e melhorando o desempenho através da Messages API. A estratégia separa o raciocínio da execução, permitindo que os executores consultem o Opus quando se depararem com obstáculos, alcançando um desempenho intelectual mais elevado dentro de um único pedido de API. As avaliações mostram que a combinação de Sonnet com Opus melhora o desempenho em 2,7% e reduz os custos da tarefa em 11,9%. Esta estratégia oferece aos programadores uma melhor opção de custo-eficiência e foi recebida com grande entusiasmo pela comunidade.

Notícias do Gate, mensagem, 10 de abril, o fundador da Uniswap, Hayden Adams, publicou hoje numa plataforma social, perguntando se existem recursos relacionados com a Anthropic (empresa de tecnologia de IA) para ligação e indicando que gostaria de testar o Mythos na Uniswap.

A xAI de Musk instaurou recentemente uma ação judicial contra a regulamentação de IA do estado do Colorado, defendendo que viola a liberdade de expressão. Esta regulamentação tem como objetivo impedir que sistemas de IA, em várias áreas, apresentem discriminação algorítmica; no entanto, o próprio chatbot da xAI, o Grok, já gerou por várias vezes afirmações racistas, o que evidencia uma contradição na sua lógica. Este caso poderá vir a tornar-se um importante precedente para a regulação da IA nos EUA.

A Anthropic lançou os Agentes Geridos do Claude, uma plataforma de desenvolvimento de agentes de IA totalmente geridos, que simplifica os processos de automatização das empresas, afirmando poder acelerar a produção de produtos até dez vezes. A plataforma tem uma infra-estrutura de segurança, suporta execução por longos períodos e coordenação entre múltiplos agentes, permitindo que os programadores se concentrem mais nas actividades essenciais. A Notion já aplicou este serviço, melhorando a eficiência do trabalho e evidenciando o aumento da concorrência no mercado de IA para empresas.

Notícia do Gate News: 10 de abril, segundo várias pessoas com conhecimento do assunto, o fundador da empresa de modelos de IA de grande escala DeepSeek, Liang Wenfeng, revelou recentemente, numa comunicação interna, que o novo modelo de grande escala emblemático da DeepSeek, o DeepSeek V4, será oficialmente lançado em finais de abril.

O sistema de memória de IA MemPalace, desenvolvido com a participação de Myra Zhova Vicky, gerou controvérsia depois de os resultados de testes terem sido questionados por alegada fraude. Os resultados de testes reais mostram que a eficiência foi exagerada e que os erros são frequentes. A equipa de desenvolvimento já reconheceu o problema e iniciou a sua correção, mas ainda existem vários dados que não foram ajustados, o que causou descontentamento na comunidade.

A Covenant AI anunciou a 10 de abril que se retira da rede Bittensor, acusando a principal figura Jacob Steeves de trair o compromisso com a descentralização, e enumerando várias ações de repressão. A Covenant AI sublinha que a aparente governação descentralizada da Bittensor é, na prática, controlada por uma única pessoa, criando um “teatro da descentralização”. O projeto de pré-treino de LLMs descentralizados da equipa, o Covenant-72B, tem uma influência relevante na indústria; esta retirada é vista como uma escolha ativa e não como uma falha.

Os estudos mostram que vários testes de referência de IA de alta reputação têm vulnerabilidades de segurança que podem ser exploradas de forma sistemática para obter classificações elevadas. A equipa de investigação revelou falhas estruturais e desenvolveu a ferramenta de varrimento WEASEL para identificar e corrigir estas vulnerabilidades, salientando que um desenho inadequado da avaliação pode levar a resultados distorcidos e afetar a avaliação real das capacidades da IA.