Relatório: Questões de segurança tornam-se o principal obstáculo para a implantação em larga escala de IA, é necessário "combater IA com IA".

No dia 23 de junho, na IV Exposição Internacional da Cadeia de Suprimentos da China, Li Rui, sócio da prática de consultoria de gestão da PwC China, publicou o relatório "Da Envenenamento de Dados à Fuga de Modelos: Reconstruindo Sistemas de Segurança para Defender Novos Riscos de IA" (doravante denominado "relatório"), combinando a aplicação em larga escala da inteligência artificial para analisar profundamente novos riscos de segurança como contaminação de dados, sequestro de prompts e fuga de modelos.

"Desde 2021, o número de incidentes e danos de IA tem crescido exponencialmente." Li Rui afirmou que as questões de segurança e risco já se tornaram o principal obstáculo para a implantação em larga escala da IA de agentes. Quase 2/3 dos entrevistados consideram as questões de segurança e risco como o principal obstáculo para expandir completamente a aplicação da IA de agentes, uma proporção claramente superior à incerteza regulatória ou às limitações técnicas, indicando que as restrições enfrentadas pelas organizações estão mais relacionadas à confiança na capacidade de implantar sistemas autônomos em grande escala com segurança.

O relatório mostra que, de acordo com a análise de eventos de risco de IA passados, mais da metade dos eventos de risco de IA se originam de ações maliciosas ativas de humanos, enquanto os problemas de segurança e falhas do próprio sistema de IA representam apenas 21%, e essa proporção tem diminuído relativamente nos últimos anos. Nos dados de um único ano de 2025, a proporção de eventos de agentes maliciosos saltou de 37,9% para 57%, indicando que a IA está sendo armamentizada cada vez mais rapidamente.

O relatório enumera os riscos atuais de IA: 1. Atualização de hackers de IA, mineração inteligente de vulnerabilidades, propagação automática de código malicioso; 2. Ataques avançados precisos impulsionados por IA, ransomware mais direcionado; 3. Proliferação de conteúdo deepfake, ataques frequentes de engenharia social avançada; 4. Fuga de modelo gerando saídas irregulares, pressão dupla sobre reputação e conformidade; 5. Envenenamento da cadeia de suprimentos de IA, vulnerabilidades ocultas causando falhas de negócios; 6. Viés algorítmico, discriminação sistêmica e injustiça social; 7. Fontes de dados de treinamento de IA pouco claras, levando a infração de direitos autorais; 8. Erro de execução de inteligência incorporada, causando danos físicos e pessoais; 9. Perda de controle da cadeia de tarefas do agente, decisões em cascata resultando em consequências irreversíveis; 10. Regulamentação de IA obrigatória e fragmentada, dificuldade de conformidade entre domínios.

Em quase todos os tipos de risco, os entrevistados indicaram que existe uma diferença significativa entre os riscos que consideram importantes e aqueles para os quais estão realmente a tomar medidas de mitigação. Esta lacuna é particularmente evidente em termos de violação de propriedade intelectual e privacidade pessoal, indicando que a velocidade de aumento da consciência do risco já ultrapassou a velocidade de implementação das medidas, processos e ferramentas de controlo correspondentes, tornando difícil uma gestão de riscos atempada e eficaz.

Li Rui apontou que o confronto ao nível da máquina provoca uma grave "assimetria ofensiva-defensiva", onde o ataque já está à velocidade da inteligência, mas a defesa depende de bloqueio manual humano, tornando as medidas tradicionais de prevenção e controlo ineficazes. É necessário "combater IA com IA", realizando a prevenção e controlo de riscos tanto na entrada como na saída: a entrada deve julgar se há sinais de perigo, e a saída deve julgar se há conteúdo irregular. "Implementar deteção e resposta a ameaças orientadas por IA, isolamento de rede e controlo de tráfego, deteção de código malicioso e análise em sandbox, juntamente com gestão de vulnerabilidades e reparação em tempo real."

Os dados mostram que, até abril de 2026, mais de 75 países/regiões em todo o mundo já introduziram estratégias, políticas e regulamentos relacionados com a inteligência artificial, com a ética tecnológica, transparência e responsabilização, conformidade de dados e proteção da privacidade a continuarem a ser os principais focos de atenção regulatória global.

(Edição: Wen Jing)

Palavras-chave: