A AT&T reduz em 56% os custos de programação com tecnologia de encaminhamento de modelos
A AT&T implementou tecnologia de encaminhamento de modelos através da LiteLLM para redirecionar as consultas rotineiras dos funcionários para modelos de IA de código aberto de menor custo, conseguindo uma redução de 56% nos custos de utilização de IA para programação, com apenas uma diminuição de 2% na qualidade do desempenho. A gigante das telecomunicações processa diariamente cerca de 45 mil milhões de tokens através da sua plataforma interna «Ask AT&T», onde os modelos de código aberto tratam
OliverGrant·10h atrás

