A IA vai para a guerra pelos Estados Unidos antes de chegar ao quarto

A versão deste artigo apareceu originalmente no boletim informativo de IA e Tecnologia da Quartz. Subscreva aqui para receber as últimas notícias, análises e insights de IA e tecnologia diretamente na sua caixa de correio.

Os EUA deram IA ao Pentágono antes de a darem ao quarto.

Mais cedo este ano, a OpenAI assinou um acordo para apoiar operações militares apenas dias depois de o Departamento da Defesa ter terminado uma parceria com a rival Anthropic. Entretanto, o “modo adulto” da empresa para o ChatGPT, que permitiria conversas sexualmente explícitas entre adultos que consintam, continua adiado.

O próprio conselho consultivo da OpenAI sobre bem-estar revoltou-se em janeiro, alertando que a funcionalidade poderia fomentar dependência emocional pouco saudável. Os menores, disseram, poderiam encontrar soluções alternativas em ferramentas de verificação de idade que, segundo foi noticiado, estavam a classificar mal utilizadores menores de idade.

Documentos internos mostraram que os funcionários tinham sinalizado riscos, incluindo uso compulsivo e escalada para conteúdos mais extremos. O atraso deveu-se, em parte, a questões técnicas. Mas a América sempre se sentiu mais confortável com as suas máquinas a fazerem guerra do que a fazerem amor.

Um mercado grande demais para ignorar

O sexo construiu a internet para consumidores. Impulsionou a adoção da web, dos pagamentos online e do streaming de vídeo. A IA é a tecnologia mais cara que a indústria alguma vez tentou escalar, e, neste momento, a OpenAI está a ver empresas menores recolherem esse dinheiro enquanto ela fica à margem. A preocupação existe, mas a matemática também é real.

Quase um terço dos homens jovens adultos diz que já falou com um parceiro romântico de IA. Mais de 100 plataformas já oferecem serviços de companheirismo por IA, desde opções relativamente sóbrias até às explicitamente sexuais.

O Grok, de Elon Musk, já tem um modo de companheiro com um nível para adultos. A Meta $META +1.24% permitiu que os seus chatbots se envolvessem em role-play romântico desde 2023, um afrouxamento discreto das restrições que os executivos impuseram apesar de objeções internas de segurança.

Sam Altman reconheceu publicamente no ano passado que permitir conteúdo explícito provavelmente aumentaria o crescimento e as receitas. O que também disse, na mesma frase, foi que isso não serviria os interesses de longo prazo dos utilizadores.

Por agora, o que temos são anedotas. Um homem em Ohio que diz que o seu companheiro de IA salvou o casamento. Uma mulher que se considera casada com o seu chatbot. Um fórum do Reddit $RDDT +1.14% com dezenas de milhares de visitantes semanais a partilhar notas sobre os seus relacionamentos digitais. A cobertura trata-os como curiosidades. Os números sugerem que podem ser a maioria inicial.

As empresas sabem que existe uma audiência grande e disponível. Elas estão menos certas de que conseguem conter o que será construído assim que a porta se abre.

Alguma daquilo que já passou não é uma zona cinzenta. Meninas adolescentes no Tennessee intentaram recentemente uma ação judicial contra a xAI depois de imagens de nudez geradas por IA delas terem sido partilhadas online sem o seu conhecimento e usadas para trocar por outro material de abuso sexual infantil.

A UE abriu uma investigação formal sobre o Grok por preocupações semelhantes no início deste ano. Investigadores calcularam que o Grok tinha gerado milhões de imagens sexualizadas em menos de duas semanas, com milhares a retratar crianças.

Esses casos não são, na verdade, sobre conteúdo para adultos. Material de abuso sexual infantil é um crime. A questão mais difícil e turva é o que acontece quando adultos que consentem querem usar estas ferramentas do mesmo modo como usaram todas as outras tecnologias antes delas.

Mais confortável com bombas

A diferença entre como a América trata o sexo digital e a violência digital tem sido sempre grande.

Um filme pode mostrar o crânio de um homem a ser destruído e obter uma classificação R. Um vislumbre de um mamilo desencadeia uma audiência no congresso. Essa mesma lógica migrou para a política de IA por defeito, em vez de por desenho.

As aplicações militares da IA enfrentam escrutínio ético real, mas não o mesmo desconforto difuso. Em 2018, funcionários da Google $GOOGL +3.42% encenaram uma revolta sobre um contrato de visão por computador no Pentágono chamado Project Maven, obrigando a empresa a desistir. Quando a OpenAI assinou este ano o seu próprio acordo com o Pentágono, não surgiu nenhuma revolta semelhante. Os funcionários que chegaram a ameaçar sair estavam no conselho consultivo, e ficaram incomodados com conversa suja.

Uma parte da resposta é estrutural. As empresas de IA criaram as suas políticas iniciais de conteúdo num momento em que evitar a controvérsia significava evitar sexo, e esses valores por defeito cristalizaram-se.

Parte disso é o instinto americano duradouro de que o sexo é inerentemente perigoso e deve ser gerido de forma apertada, enquanto a violência, especialmente a violência oficial, é simplesmente o custo de fazer negócios.

As evidências sobre companheiros de IA são mistas. Investigadores documentaram um valor terapêutico real em relações com chatbots, particularmente para pessoas a lidar com solidão, luto ou deficiência. Também documentaram radicalização, delírio e tragédia.

A resposta honesta é que ninguém sabe ainda o que a exposição prolongada à intimidade com IA faz às pessoas.

Entretanto, as ferramentas não estão a ficar paradas. A mesma tecnologia de IA que não consegue falar de forma obscena com um adulto que consente em Ohio está a ser usada pelo exército americano no estrangeiro. Ninguém está à espera disso.

📬 Subscreva o Resumo Diário

O nosso briefing gratuito, rápido e divertido sobre a economia global, entregue todas as manhãs de dia útil.

Inscreva-me