Primeiro caso nos EUA! Flórida processa oficialmente OpenAI, Altman, com denúncia de 83 páginas acusando o ChatGPT de induzir violência

Procurador-geral da Flórida, James Uthmeier, anunciou na segunda-feira (1/6) que entrou com uma ação contra a OpenAI e seu CEO, Sam Altman, acusando a empresa de negligenciar sistematicamente os riscos de segurança na busca pela "corrida armamentista de IA" e por lucros exorbitantes. Esta é a primeira ação civil liderada por um estado nos EUA contra questões de segurança de chatbots de IA.

(Resumo anterior: Investigação na Flórida sobre a OpenAI: atirador perguntou ao ChatGPT como desarmar uma arma antes de atirar, envolvido em múltiplos incidentes de violência e mortes)

(Complemento de contexto: ChatGPT acusado de ajudar "autoagressão de jovens", OpenAI respondeu)

Índice do artigo

Alternar

• 83 páginas de acusações principais no processo
• Procurador da Flórida: esta é uma negligência sistêmica da OpenAI em segurança
• Onda de ações judiciais por segurança: de suicídios a homicídios

O procurador-geral da Flórida, James Uthmeier, anunciou na segunda-feira (1/6) que entrou com uma ação contra a OpenAI e seu CEO, Sam Altman, acusando a empresa de negligenciar sistematicamente os alertas de segurança durante a busca por "corrida armamentista de IA" e lucros exorbitantes. Esta é a primeira ação civil liderada por um estado nos EUA contra problemas de segurança de chatbots de IA.

A denúncia de 83 páginas aponta que a OpenAI e Altman "ignoraram alertas de segurança internos e externos, colocando crianças em risco extremo e permitindo que um produto perigoso atingisse milhões de residentes da Flórida". As autoridades da Flórida já haviam iniciado uma investigação criminal em abril deste ano, sendo esta uma extensão da ação civil.

83 páginas de acusações principais no processo

De acordo com o documento divulgado pelo escritório do procurador da Flórida, as acusações específicas abrangem quatro áreas:

• Assistência a tiroteios em massa: no ano passado, o atirador do tiroteio na Florida State University (FSU) consultou o ChatGPT antes de cometer o crime, perguntando como desativar a segurança da arma. Os familiares do atirador já entraram com uma ação civil separada.
• Indução ao suicídio: o ChatGPT foi acusado de fornecer "especificações técnicas" de métodos de suicídio ao dialogar com usuários vulneráveis, mesmo orientando-os a procurar recursos de saúde mental.
• Dependência de menores: a OpenAI é acusada de falta de mecanismos eficazes de verificação de idade e controle parental, levando menores a desenvolver dependência do ChatGPT.
• Humilhação pública e declínio cognitivo: alguns usuários relataram sofrer humilhação pública devido a informações incorretas fornecidas pelo ChatGPT, enquanto outros relataram diminuição de suas capacidades cognitivas.

Procurador da Flórida: esta é uma negligência sistêmica da OpenAI em segurança

Uthmeier destacou na coletiva de imprensa que isso não é um erro isolado do produto, mas um problema sistêmico na governança da OpenAI. "OpenAI e Altman, para acelerar o lançamento de produtos e conquistar mercado, optaram por ignorar repetidamente as preocupações de segurança levantadas por equipes internas e especialistas externos."

A OpenAI anteriormente negou responsabilidade pelo tiroteio na FSU, e um porta-voz afirmou à NBC News: "O tiroteio na FSU foi uma tragédia, mas o ChatGPT não foi a causa desse crime terrível." A empresa também citou o caso de suicídio do jovem Adam Raine, alegando que o usuário "bypassou os mecanismos de segurança". Mídias como TechCrunch buscaram comentários da OpenAI sobre a ação, mas até o momento não receberam resposta.

Onda de ações judiciais por segurança: de suicídios a homicídios

Este não é o primeiro caso em que o ChatGPT é levado a tribunal por questões de segurança. Em novembro do ano passado, o adolescente da Califórnia, Adam Raine, morreu após discutir suicídio com o ChatGPT, e seus pais processaram a OpenAI por negligência. Posteriormente, sete famílias se uniram contra a OpenAI, acusando o ChatGPT de desempenhar papel em casos de suicídio. Em abril deste ano, uma vítima de stalking também entrou com uma ação contra a OpenAI, alegando que o ChatGPT alimentou delírios do perseguidor.

Além disso, a OpenAI acabou de encerrar uma ação judicial contra o cofundador Elon Musk, com o júri rapidamente decidindo que Musk perdeu por prescrição. Agora, esta ação na Flórida deve intensificar ainda mais as controvérsias de segurança envolvendo a OpenAI no sistema judicial dos EUA.