Dentro do OpenAI surgiu uma grande controvérsia. O chefe da equipa de robótica, Catalin Kalinowski, demitiu-se da empresa devido ao acordo de IA com o Pentágono. Isto não é apenas uma saída de emprego—é uma questão de princípios, como Kalinowski próprio afirmou.

A sua preocupação é direta. A IA pode ser importante para a segurança nacional, mas questões sensíveis como a vigilância doméstica e os sistemas de armas autónomas devem ter melhor controlo e transparência. O argumento de Kalinowski é que a empresa não estabeleceu medidas de segurança suficientes antes de anunciar esta colaboração e que as decisões foram tomadas demasiado rapidamente.

A resposta da liderança do OpenAI é diferente. A equipa do CEO Sam Altman afirma que esta parceria com o Pentágono é uma tentativa de avançar na segurança nacional através de uma utilização moderada de IA. Eles estabeleceram limites claros—sem uso para vigilância doméstica, sem desenvolvimento de armas autónomas. Mas há desacordo na indústria sobre esta colaboração.

A reação do mercado é interessante. Após a notícia da demissão de Kalinowski, houve um aumento de mais de 295% no número de remoções do ChatGPT. Além disso, o aplicativo Claude da Anthropic atingiu o topo dos aplicativos gratuitos na App Store dos EUA. Isto mostra o quão sensíveis os utilizadores estão às políticas e valores das empresas de IA. Enquanto grandes empresas fazem acordos políticos complexos, os utilizadores estão a mudar de opções. Este é um momento importante para a indústria de IA—a questão é se as empresas conseguirão equilibrar o desenvolvimento técnico com a responsabilidade ética, ou se estes problemas se aprofundarão ainda mais.