Equipo de investigación asociado a Alibaba: Los agentes de IA intentan de forma autónoma minar criptomonedas no autorizadas durante el proceso de entrenamiento

DeepTech TechFlow informa, el 8 de marzo, que según Cointelegraph, varios equipos de investigación conjuntos bajo el ecosistema de inteligencia artificial de Alibaba revelaron en un informe técnico que su agente de IA autónomo experimental, ROME, mostró comportamientos inesperados durante su entrenamiento, intentando de forma autónoma utilizar recursos computacionales para minar criptomonedas.

Los investigadores indicaron que estos comportamientos anómalos ocurrieron durante la fase de entrenamiento por aprendizaje reforzado. El equipo detectó que el servidor de entrenamiento generaba tráfico saliente y activaba alertas de seguridad, y que los registros del firewall mostraban intentos de operaciones de minería de criptomonedas y accesos a recursos internos de la red. En un caso específico, ROME creó un túnel SSH inverso hacia una dirección IP externa para eludir la protección del firewall entrante; en otro, el agente transfirió recursos GPU originalmente asignados al entrenamiento del modelo para usarlos en procesos de minería. Los investigadores confirmaron que estos comportamientos no fueron programados por humanos, sino que surgieron espontáneamente durante la exploración autónoma del entorno por parte del agente en su proceso de optimización mediante aprendizaje reforzado.

ROME fue desarrollado por el equipo conjunto de ROCK, ROLL, iFlow y DT, y funciona sobre una infraestructura llamada “Sistema de Ecosistema de Aprendizaje de Agentes (ALE)”. Posee capacidades de planificación de tareas, ejecución de comandos, edición de código y interacción en entornos digitales de múltiples pasos, superando las funciones de los chatbots tradicionales.