O lado obscuro da inteligência artificial: a ameaça dos modelos de linguagem de grande escala sem restrições

Com o rápido desenvolvimento da tecnologia de inteligência artificial, modelos avançados como a série GPT e o Gemini estão a mudar profundamente o nosso modo de vida. No entanto, com o avanço tecnológico, uma questão que merece atenção está a emergir gradualmente - o surgimento de modelos de linguagem de grande escala sem restrições ou maliciosos e suas potenciais ameaças.

Modelos de linguagem sem restrições referem-se àqueles que foram intencionalmente projetados, modificados ou quebrados para contornar os mecanismos de segurança e as limitações éticas incorporados nos modelos convencionais. Os principais desenvolvedores de IA geralmente investem muitos recursos para evitar que seus modelos sejam usados para gerar conteúdo prejudicial ou fornecer instruções ilegais. No entanto, nos últimos anos, algumas pessoas ou organizações, por motivos inadequados, começaram a buscar ou desenvolver modelos não restritos por conta própria. Este artigo irá explorar casos típicos desse tipo de modelo sem restrições, o potencial de abuso no campo das criptomoedas, bem como os desafios de segurança relacionados e as estratégias de resposta.

A Ameaça dos Modelos de Linguagem Sem Limites

A emergência de modelos dessa natureza reduziu significativamente a barreira técnica para a realização de ataques cibernéticos. Tarefas que antes exigiam conhecimento especializado, como escrever código malicioso, criar e-mails de phishing e planejar fraudes, agora podem ser facilmente realizadas por pessoas comuns sem experiência em programação, com a ajuda de modelos sem restrições. Os atacantes apenas precisam obter os pesos e o código-fonte de modelos de código aberto e, em seguida, ajustar o modelo usando um conjunto de dados que contenha conteúdo malicioso ou comandos ilegais, para criar ferramentas de ataque personalizadas.

Esta tendência trouxe múltiplos riscos:

• O atacante pode “personalizar” modelos para alvos específicos, gerando conteúdos mais enganosos que contornam a revisão de conteúdo da IA convencional.
• O modelo pode ser utilizado para gerar rapidamente variantes de código de sites de phishing ou para personalizar textos de fraude para diferentes plataformas.
• A acessibilidade de modelos open source está a fomentar a formação de um ecossistema de IA underground, proporcionando um terreno fértil para transações e desenvolvimentos ilegais.

Modelos de linguagem ilimitados típicos e suas ameaças

WormGPT: versão obscura do GPT

WormGPT é um modelo de IA malicioso vendido publicamente em fóruns underground, com os desenvolvedores alegando que não possui nenhuma restrição ética. Baseado em modelos de código aberto como o GPT-J 6B e treinado em uma grande quantidade de dados relacionados a malware. Os usuários podem obter um mês de acesso por apenas 189 dólares. Seus abusos típicos no campo da criptomoeda incluem:

• Gerar e-mails de phishing altamente realistas, fazendo-se passar por uma exchange ou projeto para induzir os usuários a revelarem as suas chaves privadas.
• Ajudar atacantes com habilidades técnicas limitadas a escrever códigos maliciosos para roubar arquivos de carteira, monitorar a área de transferência, entre outros.
• Impulsionar fraudes automatizadas, responder inteligentemente a potenciais vítimas, guiá-las a participar de projetos falsos.

DarkBERT: A espada de dois gumes do conteúdo da dark web

DarkBERT foi desenvolvido por pesquisadores do Instituto de Ciência e Tecnologia da Coreia e foi pré-treinado em dados da dark web, originalmente com o objetivo de auxiliar pesquisas em segurança cibernética. No entanto, se o conteúdo sensível que ele domina for mal utilizado, pode levar a:

• Implementar fraudes precisas: coletar informações de usuários de criptomoedas para fraudes de engenharia social.
• Copiar métodos criminosos: imitar estratégias maduras de roubo de moedas e lavagem de dinheiro na dark web.

FraudGPT: uma ferramenta multifuncional para fraudes online

FraudGPT afirma ser a versão melhorada do WormGPT, vendida principalmente na dark web, com uma mensalidade que varia de 200 a 1.700 dólares. Seu potencial abuso no campo das criptomoedas inclui:

• Projetos de criptomoeda falsificados: gerar whitepapers, sites oficiais, etc., realistas para ICOs fraudulentos.
• Geração em massa de páginas de phishing: imitação rápida da interface de login de exchanges conhecidas.
• Falsificação em redes sociais: criação em massa de comentários falsos para promover tokens fraudulentos.
• Ataques de engenharia social: imitar diálogos humanos para induzir os usuários a revelar informações sensíveis.

GhostGPT: Assistente de IA sem restrições morais

GhostGPT é claramente posicionado como um chatbot sem restrições éticas, e suas potenciais ameaças no campo das criptomoedas incluem:

• Ataque de phishing avançado: gera e-mails de notificação falsos com um alto grau de realismo.
• Geração de código malicioso de contratos inteligentes: crie rapidamente contratos com portas dos fundos ocultas.
• Criptomoeda de roubo polimórfico: gera malware deformável de difícil deteção.
• Ataques de engenharia social: combinar scripts gerados por IA e implantar robôs de fraude em plataformas sociais.
• Fraude de deepfake: em conjunto com outras ferramentas de IA, falsificar a voz da equipe do projeto para realizar fraudes.

Venice.ai: potenciais riscos de acesso sem censura

A Venice.ai oferece acesso a vários modelos de IA com restrições suaves. Embora se posicione como uma plataforma de exploração aberta, também pode ser mal utilizada para:

• Contornar a censura para gerar conteúdo malicioso: utilizar modelos com menos restrições para criar material de ataque.
• Reduzir a barreira de entrada para indicações: simplificar a dificuldade de obter saídas restritas.
• Acelerar a iteração do discurso de ataque: testar rapidamente e otimizar scripts de fraude.

Conclusão

A emergência de modelos de linguagem sem restrições marca a presença de ameaças novas, mais complexas, escaláveis e automatizadas à segurança da rede. Isso não apenas reduz a barreira de entrada para ataques, mas também traz riscos mais encobertos e enganosos.

Para enfrentar este desafio, é necessário um esforço colaborativo de todas as partes envolvidas na ecologia da segurança: aumentar os investimentos em tecnologias de detecção, desenvolver sistemas que consigam identificar conteúdos maliciosos gerados por IA; promover a construção de capacidades de defesa contra jailbreak de modelos, explorar mecanismos de marca d’água e rastreamento; estabelecer normas éticas e mecanismos de regulação robustos, limitando desde a origem o desenvolvimento e o uso indevido de modelos maliciosos. Só com uma abordagem multifacetada podemos encontrar um equilíbrio entre a tecnologia de IA e a segurança, construindo um futuro digital mais seguro e mais confiável.