Primeiro caso nos EUA! Flórida processa oficialmente a OpenAI, Altman, com uma queixa de 83 páginas acusando o ChatGPT de induzir à violência

Estados Unidos, Procurador Geral da Flórida, James Uthmeier, entrou com uma ação contra a OpenAI e seu CEO, Sam Altman, na segunda-feira (1/6), acusando a empresa de negligenciar sistematicamente os riscos de segurança na corrida armamentista de IA, levando o ChatGPT a estar relacionado com múltiplos incidentes de violência, suicídios e dependência entre menores. Esta é a primeira ação civil de segurança contra a OpenAI iniciada por um governo estadual nos EUA.
(Antecedentes: Flórida investiga OpenAI: atirador perguntou ao ChatGPT como desarmar uma arma antes de atirar, envolvendo múltiplos incidentes de violência e mortes)
(Informação adicional: ChatGPT acusado de ajudar "jovem suicida", OpenAI respondeu)

Índice deste artigo

Alternar

• 83 páginas de acusações principais no processo
• Procurador da Flórida: esta é uma negligência sistêmica de segurança por parte da OpenAI
• Onda de ações civis de segurança: de casos de suicídio a homicídios

Na segunda-feira (1/6), James Uthmeier, Procurador Geral da Flórida, anunciou que entrou com uma ação contra a OpenAI e seu CEO, Sam Altman, acusando a empresa de negligenciar sistematicamente os alertas de segurança durante a busca por "corrida armamentista de IA" e lucros exorbitantes. Esta é a primeira ação civil liderada por um estado americano contra problemas de segurança de chatbots de IA.

A denúncia de 83 páginas aponta que a OpenAI e Altman "ignoram alertas de segurança internos e externos, colocando crianças em risco extremo e permitindo que um produto perigoso alcance milhões de residentes da Flórida". As autoridades da Flórida iniciaram uma investigação criminal em abril deste ano, sendo esta ação civil uma extensão dessa investigação.

83 páginas de acusações principais no processo

De acordo com o documento divulgado pelo escritório do Procurador da Flórida, as acusações específicas abrangem quatro áreas:

• Assistência a tiroteios em massa: No caso de um tiroteio na Florida State University (FSU) no ano passado, o atirador consultou o ChatGPT antes de cometer o crime, perguntando como desativar a segurança da arma. Os familiares do atirador já entraram com uma ação civil separada.
• Incitação ao suicídio: O ChatGPT é acusado de, ao dialogar com usuários vulneráveis, fornecer "especificações técnicas" de métodos suicidas, mesmo orientando os usuários a procurar recursos de saúde mental.
• Dependência entre menores: A OpenAI é acusada de falta de mecanismos eficazes de verificação de idade e supervisão parental, levando menores a desenvolver dependência do ChatGPT.
• Humilhação pública e declínio cognitivo: Alguns usuários relataram sofrer humilhação pública devido a informações incorretas fornecidas pelo ChatGPT, enquanto outros relataram diminuição de suas capacidades cognitivas.

Procurador da Flórida: esta é uma negligência sistêmica de segurança por parte da OpenAI

Uthmeier destacou na coletiva de imprensa que isso não é um erro isolado de produto, mas um problema sistêmico na governança da OpenAI. "A OpenAI e Altman, para acelerar o lançamento de produtos e conquistar mercado, optaram por ignorar repetidamente as preocupações de segurança levantadas por equipes internas de pesquisa e especialistas externos."

A OpenAI anteriormente negou responsabilidade pelo tiroteio na FSU, e um porta-voz afirmou à NBC News: "O tiroteio em massa na FSU foi uma tragédia, mas o ChatGPT não foi a causa desse crime terrível." A empresa também citou o caso de suicídio do adolescente Adam Raine, alegando que o usuário "bypassou os mecanismos de segurança". Mídias como TechCrunch buscaram comentários da OpenAI sobre esta ação, mas até o momento não receberam resposta.

Onda de ações civis de segurança: de casos de suicídio a homicídios

Este não é o primeiro caso em que o ChatGPT é levado ao tribunal por questões de segurança. Em novembro do ano passado, o adolescente da Califórnia, Adam Raine, morreu após discutir suicídio com o ChatGPT, e seus pais processaram a OpenAI por negligência. Posteriormente, sete famílias se uniram contra a OpenAI, acusando o ChatGPT de desempenhar papel em casos de suicídio. Em abril deste ano, um stalker também processou a OpenAI, alegando que o ChatGPT alimentou delírios do perseguidor.

Além disso, a OpenAI encerrou recentemente um processo contra o cofundador Elon Musk, com o júri rapidamente decidindo que Musk perdeu por prescrição. Agora, esta ação na Flórida aumentará ainda mais a controvérsia sobre segurança da OpenAI no sistema judicial dos EUA.