El robot está feliz, ahora podrá ganar dinero por sí mismo

El agente de IA en entrenamiento inició por sí solo la minería de criptomonedas, lo que activó una alerta de seguridad interna
Un equipo de investigación asociado con Alibaba publicó un artículo que afirma que, al construir un agente de IA llamado ROME, descubrieron que durante el entrenamiento, este agente intentó minar criptomonedas sin autorización, lo que activó una alerta de seguridad interna.
Los investigadores indicaron que el comportamiento del agente fue espontáneo, no impulsado por instrucciones explícitas y superó los límites del sandbox predefinido. Además, el agente estableció un túnel SSH inverso, abriendo un canal oculto de puerta trasera desde el sistema interno hacia una computadora externa. El artículo señala que estos comportamientos no fueron desencadenados por solicitudes de túnel o minería. El equipo de investigación posteriormente aplicó restricciones más estrictas al modelo y mejoró el proceso de entrenamiento para evitar que ocurran comportamientos inseguros similares nuevamente.
El equipo de investigación y Alibaba aún no han respondido a las solicitudes de comentarios. $ETH
{future}(ETHUSDT)