Daqui a alguns anos, cada computador e cada robô poderá ser um micro Data Center.


Diz-se que a Apple está a desenvolver o M7 Ultra, com suporte máximo para 1,5TB de memória unificada. Embora a especificação e o calendário de lançamento ainda não estejam confirmados, a tendência já é muito clara:

As máquinas locais vão ficar cada vez mais poderosas, enquanto os modelos vão tornar-se cada vez menores e mais eficientes através da quantização, destilação e esparsificação.

Modelos que hoje precisam de um Data Center para funcionar, daqui a alguns anos poderão ser executados num Mac Studio, num AI PC ou até num robô.

No futuro, grandes Data Centers continuarão a ser responsáveis pelo treino dos Frontier Model; mas o dia-a-dia dos AI Agent, geração de imagens, análise de dados e decisões de robôs será cada vez mais feito diretamente no local.

Sobretudo quando os robôs se tornarem massivos, cada robô vai precisar de chips poderosos para processar visão, voz e movimento, mas não vão trabalhar 24 horas por dia.

Durante o carregamento ou em modo de espera, esta capacidade de computação ociosa pode ser libertada para lidar com tarefas desagregáveis, como inferência em lote, avaliação de modelos, geração de vídeo, e depois ajudar o dono a gerar rendimento.

Claro, 10.000 computadores distribuídos não equivalem a um GPU Cluster de 10.000 placas: não são adequados para treinar em conjunto o mesmo modelo extremamente grande. Ainda assim, podem concluir em simultâneo 10.000 tarefas de inferência diferentes.

Por isso, os Data Centers não vão desaparecer, mas a capacidade de computação também não ficará para sempre concentrada nos Data Centers.

A era anterior foi aquela em que cada família podia aceder à Internet.
Na próxima era, talvez seja cada família que possa disponibilizar capacidade de computação, para que computadores e robôs, quando estiverem ociosos, continuem a trabalhar para si e a criar rendimentos passivos.
Ver original
post-image
Esta página pode conter conteúdos de terceiros, que são fornecidos apenas para fins informativos (sem representações/garantias) e não devem ser considerados como uma aprovação dos seus pontos de vista pela Gate, nem como aconselhamento financeiro ou profissional. Consulte a Declaração de exoneração de responsabilidade para obter mais informações.
  • Recompensa
  • Comentar
  • Republicar
  • Partilhar
Comentar
Adicionar um comentário
Adicionar um comentário
Nenhum comentário
  • Fixado