Relatório: Segurança se torna o principal obstáculo para a implantação em larga escala da IA; é necessário "combater IA com IA".

Em 23 de junho, na quarta Exposição Internacional de Cadeias de Suprimento da China, Li Rui, sócio de consultoria de gestão da PricewaterhouseCoopers China, lançou o relatório "Do Envenenamento de Dados à Fuga de Modelos: Reconstruindo o Sistema de Segurança para Defender Novos Riscos de IA" (doravante denominado "relatório"), combinando a aplicação em larga escala da inteligência artificial para analisar profundamente novos riscos de segurança, como contaminação de dados, sequestro de prompts e fuga de modelos.

""Desde 2021, o número de incidentes e danos de IA cresceu exponencialmente." Li Rui declarou francamente que questões de segurança e risco se tornaram o principal obstáculo para a implantação em larga escala de IA agêntica. Quase dois terços dos entrevistados consideram as questões de segurança e risco como o principal obstáculo para expandir amplamente a aplicação de IA agêntica, uma proporção significativamente maior do que a incerteza regulatória ou limitações técnicas, indicando que as organizações enfrentam mais restrições quanto à confiança em sua capacidade de implantar sistemas autônomos de forma segura em grande escala."

O relatório mostra que, de acordo com a análise de incidentes de risco de IA anteriores, mais da metade dos incidentes de risco de IA se originam de ações maliciosas ativas de humanos, enquanto as questões de segurança e falhas do próprio sistema de IA representam apenas 21%, e essa proporção vem diminuindo relativamente nos últimos anos. Nos dados apenas de 2025, a proporção de eventos da categoria de agentes maliciosos saltou de 37,9% para 57%, indicando que a IA está sendo armamentada cada vez mais rapidamente.

O relatório lista os riscos atuais de IA: 1. Atualização de hackers de IA, mineração inteligente de vulnerabilidades, propagação automática de códigos maliciosos; 2. Ataques avançados e precisos impulsionados por IA, ransomware mais direcionado; 3. Conteúdo deepfake generalizado, ataques frequentes de engenharia social avançada; 4. Fuga de modelo desencadeando saídas violadoras, pressão dupla sobre reputação e conformidade; 5. Envenenamento da cadeia de suprimentos de IA, vulnerabilidades ocultas causando falhas de negócios; 6. Viés algorítmico, discriminação sistêmica e injustiça social; 7. Fontes de dados de treinamento de IA pouco claras, causando violação de direitos autorais; 8. Erro de execução de IA incorporada, causando danos físicos e pessoais; 9. Perda de controle da cadeia de tarefas do agente, decisões em cascata levando a consequências irreversíveis; 10. Regulamentações de IA obrigatórias e fragmentadas, dificuldade de conformidade entre domínios.

Em quase todos os tipos de risco, os entrevistados indicaram que há uma lacuna significativa entre os riscos que consideram importantes e os riscos para os quais estão realmente implementando medidas de mitigação. Essa lacuna é particularmente evidente em relação à violação de propriedade intelectual e privacidade pessoal, indicando que a velocidade de aumento da conscientização sobre riscos já superou a velocidade de implementação de medidas de controle, processos e ferramentas correspondentes, dificultando o gerenciamento de riscos de forma oportuna e eficaz.

Li Rui destacou que a confrontação em nível de máquina causa grave "assimetria ofensiva-defensiva": o ataque já está na velocidade da inteligência, enquanto a defesa ainda depende de bloqueio manual, tornando as medidas tradicionais de prevenção e controle ineficazes. É necessário "combater IA com IA", realizando prevenção e controle de riscos nas extremidades de entrada e saída: na entrada, deve-se julgar se há sinais de perigo; na saída, deve-se julgar se há conteúdo violador. "Implantar detecção e resposta de ameaças impulsionadas por IA, isolamento de rede e controle de tráfego, detecção de código malicioso e análise em sandbox, além de gerenciamento de vulnerabilidades e reparo em tempo real."

Dados mostram que, até abril de 2026, mais de 75 países/regiões em todo o mundo emitiram estratégias, políticas e regulamentações relacionadas à inteligência artificial. Ética tecnológica, transparência e responsabilidade, conformidade de dados e proteção de privacidade continuam sendo os focos centrais da regulamentação global.

(Editor: Wen Jing)

Palavras-chave: