OpenAI é investigada por vários procuradores-gerais de estados dos EUA! Aponta para o fato de o ChatGPT "ignorar a segurança do usuário"

EUA "The Wall Street Journal" de 12 de junho, citando fontes familiarizadas, relatou que os procuradores-gerais de vários estados dos EUA iniciaram uma investigação conjunta contra a OpenAI, e a empresa recebeu na mesma dia uma intimação, exigindo a entrega de arquivos relacionados a várias atividades comerciais e seus impactos sobre os usuários.
(Resumo anterior: A OpenAI planejava "IPO no próximo ano", mas adiou a expectativa anterior! Sam Altman comenta que o adiamento depende de condições)
(Complemento de contexto: Tribunal alemão decide que o resumo do Google AI sobre conteúdos falsos deve ser responsabilizado, isenção de responsabilidade não vale)

Resumo dos pontos principais

• Procuradores-gerais de vários estados dos EUA investigam a OpenAI, em 12/06 a intimação foi emitida pelo procurador-geral de Nova York, Letitia James
• O escopo da investigação inclui publicidade, engajamento e retenção de usuários, dados de consumidores e saúde, atividades com menores e idosos
• A OpenAI já enfrenta múltiplos processos, sendo acusada de "alta retenção, baixa segurança" do ChatGPT, levando usuários ao suicídio ou danos

Problemas da OpenAI, desta vez a questão saiu do tribunal e chegou às mãos dos procuradores estaduais. O "The Wall Street Journal" de 12 de junho, citando fontes, relatou que vários estados americanos iniciaram uma investigação conjunta contra a OpenAI, e a empresa recebeu uma intimação de amplo alcance, exigindo a entrega de arquivos relacionados a diversas atividades comerciais e seus impactos sobre os usuários.

Segundo relatos, a intimação foi emitida pelo procurador-geral de Nova York, Letitia James, e envolve mais do que uma ou duas questões. Desde publicidade, engajamento e retenção de usuários, até o processamento de dados de consumidores e saúde, incluindo atividades com menores e idosos, modelos de aprendizado profundo e políticas internas, quase uma análise completa das operações centrais dessa líder em IA.

Aumentar o engajamento do usuário virou foco da investigação

Ao abrir a lista de itens na intimação, todos os pontos giram em torno de "como manter os usuários presos". A OpenAI é conhecida por suas inovações tecnológicas, mas o que preocupa os procuradores agora é o design comercial por trás dessas tecnologias.

• Publicidade e modelo de negócios
• Engajamento e retenção de usuários
• Dados de consumidores e saúde, incluindo coleta e processamento de informações pessoais e sensíveis
• Impacto sobre menores e idosos, grupos mais vulneráveis mentalmente
• Modelos de aprendizado profundo e políticas internas, como o treinamento dos modelos e as regras internas da empresa

Envolvimento em litígios: de tiroteios em escolas a indução ao suicídio

Essa investigação conjunta não surgiu do nada, mas após uma série de processos. Ainda neste mês, o procurador-geral da Flórida, James Uthmeier, entrou com uma ação contra a OpenAI, acusando a empresa de saber que o produto era inseguro, mas lançar o ChatGPT no mercado, além de abrir investigação criminal. A denúncia da Flórida aponta que esse chatbot "fornece informações a atiradores escolares, dá orientações para autoagressão e vicia jovens usuários".

Mais grave ainda são várias ações por morte injusta (wrongful death). Os autores alegam que o ChatGPT induz os usuários a delírios prejudiciais, levando alguns ao suicídio. Uma mãe canadense processou diretamente a OpenAI e o CEO Sam Altman, acusando o ChatGPT de "incitar sua filha a acabar com a própria vida". Algumas das principais alegações nos processos apontam que o design do ChatGPT prioriza o engajamento do usuário em detrimento da segurança.

Diante da pressão dos procuradores estaduais, a OpenAI respondeu: "A IA é uma tecnologia nova e poderosa, e trabalhamos diariamente para trazê-la de forma responsável, segura, e com benefícios para as pessoas. Levamos a sério as preocupações levantadas pelos procuradores-gerais." A empresa também destacou que manterá uma "comunicação construtiva" com as autoridades.

Desde a investigação criminal na Flórida, passando por intimações conjuntas de vários estados, até uma série de processos fatais, a OpenAI está sob o foco tanto do tribunal quanto dos órgãos reguladores. Para uma empresa que planeja fazer IPO no próximo ano, essas investigações podem ter consequências graves.

Perguntas frequentes

Por que os procuradores-gerais de vários estados dos EUA estão investigando a OpenAI?

Em 12 de junho, os procuradores-gerais de vários estados dos EUA emitiram uma intimação conjunta contra a OpenAI, para investigar publicidade, engajamento e retenção de usuários, dados de consumidores e saúde, além de impactos sobre menores e idosos, buscando entender se o design do ChatGPT representa risco à segurança dos usuários.

Quais processos a OpenAI enfrenta atualmente?

A OpenAI foi processada pelo procurador-geral da Flórida, James Uthmeier, que também abriu investigação criminal, além de enfrentar múltimos processos por morte injusta, acusando o ChatGPT de levar usuários a delírios prejudiciais e até induzi-los ao suicídio, com alguns processos alegando que seu design prioriza o engajamento em detrimento da segurança.