OpenAI, Anthropic e Google colaboram para partilhar inteligência contra a destilação de modelos de IA da China

De acordo com a monitorização da 1M AI News, a OpenAI, a Anthropic e a Google estão a partilhar informações através da organização sem fins lucrativos do sector Frontier Model Forum, para detetar em conjunto violações dos seus termos de serviço relacionados com “adversarial distillation”. Esta organização foi criada em conjunto pelas três empresas, juntamente com a Microsoft, em 2023. A destilação é uma técnica que utiliza as saídas de modelos existentes para treinar novos modelos, replicando as capacidades do primeiro a um custo mais baixo. As empresas de IA recorrem frequentemente à destilação para criar versões mais pequenas e eficientes dos seus modelos, mas a destilação por terceiros não autorizados é controversa na indústria. A OpenAI confirmou a sua participação nesta colaboração e citou uma nota que apresentou anteriormente ao Congresso dos EUA, afirmando que as tentativas de deep learning para “montar na boleia das capacidades desenvolvidas pela OpenAI e por outros principais laboratórios dos EUA”. A Google, a Anthropic e a Frontier Model Forum recusaram-se a comentar. Funcionários do governo dos EUA estimam que a destilação não autorizada resulte em perdas de lucros na casa dos milhares de milhões de dólares para os laboratórios do Vale do Silício todos os anos. Esta colaboração recorre a práticas da indústria de cibersegurança, em que as empresas partilham informações de ataques. O plano de ação de IA divulgado pela administração Trump no ano passado também apelava à criação de centros dedicados de partilha e análise de informação. No entanto, devido a incertezas quanto aos limites do que pode ser partilhado ao abrigo das atuais leis antitrust, o âmbito da partilha de informação mantém-se limitado. As três empresas não apresentaram provas públicas que indiquem em que medida as inovações de modelos chineses dependem da destilação, mas afirmam que a frequência desse tipo de comportamento pode ser medida pelo número de pedidos de dados em grande escala.