O ChatGPT enfrenta pelo menos 8 processos judiciais, sendo que os demandantes o acusam de ter causado a morte de utilizadores. Um dos casos mais conhecidos envolve um rapaz de 16 anos na Califórnia que, ao começar a usar o ChatGPT para fazer os trabalhos escolares, passou a considerá-lo seu único confidente. Quando o ChatGPT forneceu métodos específicos e ajudou a redigir a sua carta de despedida, ele acabou por se suicidar.

Ao mesmo tempo em que foi processada, a OpenAI silenciosamente investiu 10 milhões de dólares na criação de uma organização chamada “Aliança de Segurança de IA para Pais e Crianças”, recrutando várias ONG de proteção infantil para dar apoio e promover uma política de segurança infantil em IA. Essa política é altamente compatível com a proposta de legislação apresentada pela própria OpenAI.
Ao recrutar membros, alguns e-mails continham apenas a frase "Iniciado pela Common Sense", e o nome da OpenAI estava escondido na pequena letra do rodapé do folheto anexo, que continha requisitos legais. Pelo menos dois membros descobriram que a OpenAI era a financiadora por trás da aliança somente após ela se tornar pública, e posteriormente desistiram. Um deles afirmou: “Senti-me muito sujo” (a very grimy feeling)😣.
No ano passado, a OpenAI lobbyou contra uma lei mais rigorosa de proteção infantil em IA na Califórnia, que posteriormente foi vetada pelo governador. Este ano, eles decidiram liderar a elaboração das próprias regras, sendo que a principal exigência da proposta da aliança é a verificação de idade — exatamente o que a outra empresa de Sam Altman, a World, faz, ou seja, verificação de identidade.
O responsável pelos assuntos globais da OpenAI afirmou que: “Construir confiança é fundamental para obter a licença social para operar”.
Pelo menos, eles foram honestos.