OpenAI está a ser investigada por vários procuradores-gerais de vários estados dos EUA! Aponta para o facto de o ChatGPT "ignorar a segurança do utilizador"

EUA "The Wall Street Journal" de 12 de junho, citando fontes familiarizadas, relatou que os procuradores-gerais de vários estados americanos iniciaram uma investigação conjunta sobre a OpenAI, tendo a empresa recebido naquele dia uma intimação, solicitando a entrega de arquivos relacionados a várias atividades comerciais e seus impactos nos utilizadores.
(Antecedentes: A OpenAI planeava uma "IPO no próximo ano", mas adiou a expectativa anterior! Sam Altman comenta que o adiamento depende de condições)
(Informação adicional: Tribunal alemão decide que o Google AI deve ser responsável por resumos de conteúdo imprecisos, isenção de responsabilidade não funciona)

Resumo dos pontos principais

• Os procuradores-gerais de vários estados dos EUA investigam a OpenAI em conjunto, com a intimação emitida em 12/06 pelo procurador-geral de Nova York, Letitia James
• O escopo da investigação inclui publicidade, engajamento e retenção de utilizadores, dados de consumidores e saúde, atividades envolvendo menores e idosos
• A OpenAI já enfrenta múltiplos processos, sendo acusada de que o ChatGPT "prioriza o engajamento e pouco a segurança", levando usuários ao suicídio ou a danos

Problemas da OpenAI, desta vez, do tribunal para as mãos dos procuradores estaduais. O "The Wall Street Journal" dos EUA, em 12 de junho, citando fontes, relatou que vários estados americanos iniciaram uma investigação conjunta sobre a OpenAI, tendo a empresa recebido uma intimação de amplo alcance, solicitando arquivos relacionados a diversas atividades comerciais e seus impactos nos utilizadores.

Segundo relatos, a intimação foi emitida pelo procurador-geral de Nova York, Letitia James, e cobre mais do que uma ou duas áreas. Desde publicidade, engajamento e retenção de utilizadores, até o processamento de dados de consumidores e saúde, incluindo atividades envolvendo menores e idosos, modelos de aprendizado profundo e políticas internas, quase uma análise completa das operações centrais dessa líder em IA.

Aumentar a fidelidade do usuário virou foco da investigação

Ao abrir a lista de itens na intimação, todos os pontos giram em torno de "como manter os utilizadores presos". A OpenAI é conhecida por avanços tecnológicos, mas o que preocupa os procuradores é o design comercial por trás dessas tecnologias.

• Publicidade e modelos de negócio
• Engajamento e retenção de utilizadores
• Dados de consumidores e saúde, incluindo coleta e processamento de informações pessoais e sensíveis
• Impacto sobre menores e idosos, grupos mais vulneráveis mentalmente
• Modelos de aprendizado profundo e políticas internas, como o treinamento dos modelos e a supervisão da empresa

Envolvimento em litígios: de tiroteios em escolas a indução ao suicídio

Essa investigação conjunta não surgiu do nada, mas após uma série de processos. Ainda neste mês, o procurador-geral da Flórida, James Uthmeier, processou a OpenAI, acusando a empresa de saber que o produto era inseguro, mas lançar o ChatGPT no mercado, além de abrir uma investigação criminal. A denúncia da Flórida aponta que esse chatbot "fornece informações a atiradores escolares, dá orientações para autoagressão e vicia jovens utilizadores".

Mais grave ainda são várias ações por morte não natural (wrongful death). Os demandantes alegam que o ChatGPT induz os utilizadores a delírios prejudiciais, levando alguns ao suicídio. Uma mãe canadense entrou com processo contra a OpenAI e o CEO Sam Altman, acusando o ChatGPT de "incitar sua filha a acabar com a própria vida". Algumas das principais alegações nos processos apontam que o design do ChatGPT "prioriza o engajamento do utilizador em detrimento da segurança".

Diante da pressão dos procuradores estaduais, a OpenAI respondeu: "A IA é uma tecnologia nova e poderosa, e trabalhamos diariamente para trazê-la de forma responsável, segura, e com benefícios para as pessoas. Levamos a sério as preocupações levantadas pelos procuradores-gerais." A empresa também destacou que manterá uma "comunicação construtiva" com as autoridades.

Desde a investigação criminal na Flórida, passando por intimações conjuntas de vários estados, até uma série de processos fatais, a OpenAI está sob o foco tanto do tribunal quanto dos procuradores. Para uma empresa que planeja uma IPO no próximo ano, essas investigações podem ter consequências graves.

Perguntas frequentes

Por que os procuradores-gerais de vários estados dos EUA estão investigando a OpenAI?

Em 12 de junho, os procuradores-gerais de vários estados americanos emitiram uma intimação conjunta à OpenAI, para investigar publicidade, engajamento de utilizadores, dados de consumidores e saúde, além de impactos sobre menores e idosos, buscando entender se o design do ChatGPT representa risco à segurança dos utilizadores.

Quais processos a OpenAI enfrenta atualmente?

A OpenAI foi processada pelo procurador-geral da Flórida, James Uthmeier, e também está sob investigação criminal, além de enfrentar múltiplos processos por morte não natural, acusando o ChatGPT de levar utilizadores a delírios prejudiciais e até induzi-los ao suicídio, com alguns processos alegando que seu design prioriza o engajamento em detrimento da segurança.