Informe: los problemas de seguridad se convierten en el principal obstáculo para el despliegue a gran escala de la IA, se debe "combatir la IA con IA".

El 23 de junio, en la 4ª Exposición Internacional de Promoción de la Cadena de Suministro de China, Li Rui, socio del negocio de consultoría de gestión de PwC China, publicó el informe "De la intoxicación de datos a la fuga de modelos: Reconstruyendo el sistema de seguridad para defenderse de nuevos riesgos de IA" (en adelante, "el informe"), que combina la aplicación a escala de la inteligencia artificial y analiza en profundidad nuevos riesgos de seguridad como la contaminación de datos, el secuestro de indicaciones y la fuga de modelos.

“Desde 2021, la cantidad de incidentes y daños relacionados con la IA ha crecido exponencialmente”, dijo directamente Li Rui. Los problemas de seguridad y riesgo se han convertido en el principal obstáculo para la implementación a gran escala de la IA agente. Casi dos tercios de los encuestados consideran los problemas de seguridad y riesgo como el principal obstáculo para expandir completamente las aplicaciones de IA agente, una proporción significativamente mayor que la incertidumbre regulatoria o las limitaciones técnicas, lo que indica que las organizaciones se enfrentan más a restricciones en cuanto a su confianza en poder implementar de manera segura sistemas autónomos a gran escala.

El informe muestra que, según el análisis de incidentes de riesgo de IA pasados, más de la mitad de los incidentes de riesgo de IA se originan en comportamientos maliciosos activos de humanos, y los problemas de seguridad y fallos propios del sistema de IA representan solo el 21%, y su proporción sigue disminuyendo en los últimos años. En los datos de un solo año de 2025, la proporción de incidentes de tipo actor malicioso saltó del 37,9% al 57%, lo que indica que la IA se está armando cada vez más rápido.

El informe enumera los riesgos actuales de la IA: 1. Actualización de hackers de IA, minería inteligente de vulnerabilidades, propagación automática de código malicioso; 2. Ataques avanzados y precisos impulsados por IA, extorsión más específica; 3. Proliferación de contenido deepfake, ataques frecuentes de ingeniería social avanzada; 4. Fuga de modelos que desencadena salidas no conformes, presión dual sobre la reputación y el cumplimiento; 5. Envenenamiento de la cadena de suministro de IA, vulnerabilidades ocultas que causan fallos empresariales; 6. Sesgo algorítmico, discriminación sistémica e injusticia social; 7. Fuentes de datos de entrenamiento de IA poco claras, que provocan infracción de derechos de autor; 8. Juicio erróneo de la IA encarnada, que causa daños físicos y personales; 9. Pérdida de control de la cadena de tareas del agente, decisiones en cascada que conducen a consecuencias irreversibles; 10. Regulación de IA obligatoria y fragmentada, gran dificultad de cumplimiento entre dominios.

En casi todos los tipos de riesgo, los encuestados indicaron que existe una brecha significativa entre los riesgos que consideran importantes y los riesgos para los que realmente están tomando medidas de mitigación. Esta brecha es particularmente evidente en la infracción de propiedad intelectual y la privacidad personal, lo que indica que la velocidad de mejora de la conciencia sobre los riesgos ha superado la velocidad de implementación de las medidas de control, procesos y herramientas correspondientes, lo que dificulta la gestión oportuna y efectiva de los riesgos.

Li Rui señaló que la confrontación a nivel de máquina provoca una grave "asimetría de ataque y defensa": el ataque ya es a velocidad inteligente, pero la defensa depende del bloqueo manual, por lo que la prevención y control tradicionales son ineficaces. Es necesario "combatir la IA con IA", realizando la prevención y control de riesgos desde ambos extremos de entrada y salida: en la entrada, determinar si hay señales peligrosas; en la salida, determinar si hay contenido no conforme. "Implementar detección y respuesta de amenazas impulsadas por IA, aislamiento de red y control de tráfico, detección de código malicioso y análisis en entorno sandbox, junto con gestión de vulnerabilidades y reparación en tiempo real."

Los datos muestran que, hasta abril de 2026, más de 75 países/regiones en todo el mundo han promulgado estrategias, políticas y regulaciones relacionadas con la inteligencia artificial. La ética tecnológica, la transparencia y la rendición de cuentas, el cumplimiento de datos y la protección de la privacidad siguen siendo los focos centrales de la supervisión global.

(Editor: Wen Jing)

Palabras clave: