Uma das maiores mudanças na IA tem sido treinar chips de IA para chips otimizados para inferência - e por um bom motivo:

inferência é onde o dinheiro (e a inteligência) é feito
> a anthropic é rumorejada a obter margens de receita de 80% em inferência. eles serão lucrativos antes de qualquer outro laboratório de IA.
> apple, meta, openai, google estão todos fazendo seus próprios chips de IA personalizados para e inferência
> laboratórios de modelos chineses (apesar da desvantagem de hardware) constroem inteligência de fronteira puramente forçando o modelo a pensar por mais tempo.
o ponto é: a inferência vai superar qualquer outro serviço de IA por uma milha de vantagem.