Bajo la fiebre de criar langostas, ¿cómo mantener la línea de seguridad?

“Últimamente en la oficina, la mitad de la gente habla de ‘criar langostas’ y la otra mitad aprende cómo ‘criar langostas’.” El 13 de marzo, Li Yao, gerente de producto de una empresa de internet en Beijing, dijo a los periodistas que la discusión sobre “criar langostas” no se refiere a la acuicultura en la vida real, sino a la personalización, entrenamiento y despliegue del marco de inteligencia artificial de código abierto OpenClaw, que se ha lanzado recientemente.

Debido a que el icono es una langosta roja, todos llaman a OpenClaw “langosta”. A diferencia de la IA convencional, puede integrar y llamar a software de comunicación y modelos de lenguaje grande, y ejecutar de forma autónoma tareas complejas en la computadora del usuario, como gestión de archivos, envío y recepción de correos, procesamiento de datos, etc.

¿Por qué esta “langosta” ha generado tanta expectación a nivel nacional? ¿Qué riesgos de seguridad implica “criar langostas”? Los periodistas del Diario del Trabajador realizaron una investigación al respecto.

Varias regiones han implementado políticas de apoyo relacionadas con la “langosta”

Como la primera IA que ha captado la atención de toda la población este año, ¿qué hace que la “langosta” sea tan especial?

“El núcleo de la IA convencional es dialogar; después de que el usuario hace una pregunta, solo puede obtener una respuesta o instrucciones de operación. La ‘langosta’ es un ejemplo típico de ‘acción’. Solo con plantear un objetivo, puede operar directamente diversas herramientas para completar todo el proceso.” Un bloguero tecnológico que trabajó en una gran empresa de internet y que se hace llamar “Aprendiendo IA con Ah-Liang” explicó: si le pide organizar correos importantes, abrirá automáticamente su bandeja de entrada, filtrará el contenido y redactará borradores de respuesta, sin que el usuario tenga que intervenir en todo momento.

Yu Jingwen, ingeniera de IA en el Laboratorio de Creatividad Digital AIIT de la Universidad de Pekín, afirmó: “A diferencia de modelos de lenguaje grande como ChatGPT, OpenClaw no es solo un chatbot simple, sino un ‘empleado digital’ que puede obtener permisos del sistema operativo local, llamar a diversas herramientas, planificar pasos según instrucciones en lenguaje natural y ejecutar tareas complejas automáticamente.”

“Los modelos de IA tradicionales, por muy avanzados que sean, siempre estaban limitados a sus propios ámbitos y no podían colaborar entre diferentes áreas. La ventaja principal de la ‘langosta’ es que rompe esas barreras entre modelos de diferentes campos, movilizando verdaderamente todas las funciones y valores de los grandes modelos.” Explicó Yu Jingwen. “Por eso, se puede decir que OpenClaw representa una innovación disruptiva, con carácter de puente y vínculo en la industria de la IA.”

Ante esta tendencia, varias regiones han respondido activamente. Según estadísticas incompletas, hasta el 12 de marzo, varias localidades como Longgang en Shenzhen, el Parque de Alta Tecnología de Wuxi, el Parque de Alta Tecnología de Hefei, la ciudad de Changshu en Suzhou, el Parque de Qixia en Nanjing y el distrito de Xiaoshan en Hangzhou, han lanzado políticas de apoyo relacionadas con la “langosta”. Además, algunos gobiernos locales ofrecen servicios gratuitos de despliegue de “pequeñas langostas” para el público.

La “langosta” oculta múltiples riesgos de seguridad

A pesar del entusiasmo general por “criar langostas”, la experiencia de los primeros usuarios no siempre ha sido positiva.

“En general, no parece tan asombroso como se promociona en línea.” Li Yao admitió que para aprovechar bien la “langosta”, es necesario abrir permisos de control para varias aplicaciones en la computadora. Por precaución, no ha otorgado permisos excesivos, por lo que considera que los resultados son limitados.

Yu Jingwen analizó que la capacidad central de OpenClaw radica en la operación y control de diversas aplicaciones y herramientas. Para lograr esto, el usuario debe concederle numerosos permisos, incluyendo correo, software de oficina, plataformas backend, etc. “Es como si quisieras que alguien limpie tu casa; tienes que entregarle las llaves de todas las habitaciones.” Comparó, advirtiendo que otorgar permisos completos puede poner en riesgo la seguridad de datos personales y empresariales.

El 10 de marzo, el Centro Nacional de Respuesta de Emergencias de Internet publicó la “Guía de Riesgos en la Seguridad de OpenClaw” (en adelante, la “Guía”), que señala claramente que, para lograr la capacidad de “ejecutar tareas de forma autónoma”, la aplicación recibe permisos elevados del sistema. Sin embargo, su configuración de seguridad predeterminada es muy vulnerable, y si un atacante encuentra una brecha, puede tomar control total del sistema con facilidad.

La “Guía” indica que, hasta ahora, OpenClaw ha revelado varias vulnerabilidades críticas y altas, que si son explotadas maliciosamente por atacantes, podrían causar control del sistema, filtración de información privada y datos sensibles. “Para usuarios individuales, puede resultar en la exposición de datos confidenciales como fotos, documentos, registros de chat y cuentas de pago; para empresas, puede provocar la filtración de datos clave, secretos comerciales y causar pérdidas incalculables.” Analizó Yu Jingwen.

El abogado Zhou Zichuan, de la firma HanDing United Law Firm en Beijing, afirmó que, para cumplir con las instrucciones del usuario, “la langosta” puede recopilar datos en toda la red sin control, y la cantidad, los permisos de acceso y la sensibilidad de los datos que obtiene a menudo superan el control del usuario, pudiendo constituir delitos como la obtención ilegal de datos de sistemas informáticos o la violación de la privacidad personal.

“Además, muchos usuarios, por conveniencia, pagan a terceros para desplegar ‘langostas’, pero estos terceros no siempre tienen condiciones de protección de seguridad, lo que puede exponer los datos de los dispositivos. Los atacantes pueden usar código malicioso para controlar remotamente los dispositivos y robar información sensible.” Añadió Zhou.

En medio de la tendencia, es fundamental mantener la línea de seguridad

El informe de trabajo del gobierno de este año propuso profundizar en la expansión del “AI +”, promover la rápida adopción de nuevas generaciones de terminales inteligentes y agentes inteligentes, impulsar la comercialización y escalabilidad de la IA en sectores clave, y cultivar nuevos modelos de negocio y formas de operación nativas de la inteligencia.

“La aparición de la ‘langosta’ ofrece un nuevo camino para la implementación práctica de los agentes de IA. Si se usa de manera regulada, puede aprovechar al máximo las capacidades existentes, mejorando significativamente la eficiencia laboral de individuos y empresas.” Comentó Yu Jingwen. “El desarrollo saludable de la ‘langosta’ depende de equilibrar la conveniencia y la seguridad.”

“Las nuevas características tecnológicas que presenta la ‘langosta’ y otros agentes de IA complican aún más las cuestiones legales relacionadas con la IA.” Ejemplificó Zhou Zichuan, quien mencionó que uno de los problemas más importantes es la “ambigüedad en la atribución de responsabilidades”. Cuando agentes como la ‘langosta’ actúan por instrucciones del usuario y causan infracciones o delitos, aún no está claro cómo deben responsabilizarse los desarrolladores, desplegadores y usuarios, y qué responsabilidades corresponden a cada uno. Es un aspecto que requiere mayor claridad legal.

Para los desarrolladores y proveedores de productos de IA, Zhou recomendó, por un lado, cumplir con las obligaciones de protección de datos personales, como mantener registros de procesamiento de datos y garantizar su trazabilidad. Por otro lado, fortalecer la conciencia de cumplimiento legal en las operaciones diarias, como gestionar mejor los permisos de IA y revisar cuidadosamente las instrucciones, para reducir riesgos de seguridad.

El Centro Nacional de Respuesta de Emergencias de Internet también ofrece recomendaciones específicas en la “Guía”: las instituciones y usuarios deben aislar estrictamente los entornos de operación al desplegar y usar OpenClaw, emplear tecnologías como contenedores para limitar los permisos excesivos, gestionar cuidadosamente las fuentes de plugins y mantenerse atentos a parches y actualizaciones de seguridad.

“Antes de ‘criar langostas’, los usuarios deben evaluar cuidadosamente su valor y riesgos, determinar si realmente necesitan la IA para resolver sus problemas, y decidir si deben desplegarla.” Recordó Yu Jingwen. “Durante su uso, también es fundamental segmentar los datos y proteger la privacidad, evitando seguir ciegamente la tendencia y exponerse a riesgos de seguridad y pérdida de datos personales.”