El lado oscuro de la inteligencia artificial: la amenaza de los modelos de lenguaje de gran escala sin restricciones

Con el rápido desarrollo de la tecnología de inteligencia artificial, desde la serie GPT hasta modelos avanzados como Gemini, están cambiando profundamente nuestra forma de vida. Sin embargo, junto con el progreso tecnológico, ha surgido un problema que merece ser vigilado: la aparición de modelos de lenguaje a gran escala sin restricciones o maliciosos y sus amenazas potenciales.

Los modelos de lenguaje sin restricciones se refieren a aquellos sistemas de IA diseñados, modificados o pirateados intencionalmente para eludir los mecanismos de seguridad y las limitaciones éticas integradas en los modelos convencionales. Los principales desarrolladores de IA suelen invertir grandes recursos para evitar que sus modelos se utilicen para generar contenido dañino o proporcionar instrucciones ilegales. Sin embargo, en los últimos años, algunas personas u organizaciones, motivadas por intereses indebidos, han comenzado a buscar o desarrollar por su cuenta modelos sin restricciones. Este artículo explorará casos típicos de este tipo de modelos sin restricciones, el potencial abuso en el ámbito de las criptomonedas, así como los desafíos de seguridad relacionados y las estrategias de respuesta.

La amenaza de los modelos de lenguaje sin restricciones

La aparición de este tipo de modelos ha reducido drásticamente la barrera técnica para llevar a cabo ataques en la red. Tareas que antes requerían conocimientos especializados, como escribir código malicioso, crear correos electrónicos de phishing y planificar fraudes, ahora pueden ser realizadas fácilmente por personas sin experiencia en programación con la ayuda de modelos sin restricciones. Los atacantes solo necesitan obtener los pesos y el código fuente de modelos de código abierto, y luego ajustar con un conjunto de datos que contenga contenido malicioso o instrucciones ilegales, para crear herramientas de ataque personalizadas.

Esta tendencia conlleva múltiples riesgos:

• Los atacantes pueden “personalizar” modelos para objetivos específicos, generando contenido más engañoso que elude la revisión de contenido de la IA convencional.
• El modelo puede ser utilizado para generar rápidamente variantes del código de sitios web de phishing, o para personalizar textos de fraude para diferentes plataformas.
• La accesibilidad de modelos de código abierto está fomentando la formación de un ecosistema de IA subterráneo, proporcionando un caldo de cultivo para el comercio y desarrollo ilegales.

Modelos de lenguaje ilimitados típicos y sus amenazas

WormGPT: versión oscura de GPT

WormGPT es un modelo de IA malicioso que se vende públicamente en foros oscuros, cuyos desarrolladores afirman que no tiene ninguna restricción ética. Se basa en modelos de código abierto como GPT-J 6B y se entrena con una gran cantidad de datos relacionados con malware. Los usuarios pueden obtener un mes de acceso por solo 189 dólares. Sus abusos típicos en el ámbito de las criptomonedas incluyen:

• Genere correos electrónicos de phishing altamente realistas para inducir a los usuarios a divulgar sus claves privadas haciéndose pasar por exchanges o partes de proyectos.
• Ayudar a los atacantes con capacidades técnicas limitadas a escribir código malicioso para robar archivos de billetera, monitorear el portapapeles, etc.
• Impulsar estafas automatizadas, responder inteligentemente a posibles víctimas, guiarlas a participar en proyectos fraudulentos.

DarkBERT: la espada de doble filo del contenido de la darknet

DarkBERT fue desarrollado por investigadores del Instituto de Ciencia y Tecnología de Corea y fue preentrenado en datos de la dark web, originalmente con el propósito de ayudar en la investigación de ciberseguridad. Sin embargo, si se abusa de su contenido sensible, podría resultar en:

• Implementar fraudes precisos: recopilar información de usuarios de criptomonedas para fraudes de ingeniería social.
• Copiar métodos delictivos: imitar las estrategias maduras de robo de criptomonedas y lavado de dinero en la dark web.

FraudGPT: una herramienta multifuncional para el fraude en línea

FraudGPT se autodenomina la versión mejorada de WormGPT, que se vende principalmente en la dark web, con una tarifa mensual que varía entre 200 y 1,700 dólares. Su posible abuso en el ámbito de las criptomonedas incluye:

• Proyectos de criptomonedas falsificados: generación de libros blancos realistas, sitios web, etc., para ICOs fraudulentos.
• Generación masiva de páginas de phishing: imitación rápida de la interfaz de inicio de sesión de intercambios conocidos.
• Falsificación en redes sociales: fabricación masiva de comentarios falsos para promover tokens fraudulentos.
• Ataques de ingeniería social: imitar conversaciones humanas para inducir a los usuarios a revelar información sensible.

GhostGPT: Asistente de IA sin restricciones morales

GhostGPT se ha definido claramente como un chatbot sin restricciones morales, y sus amenazas potenciales en el ámbito de las criptomonedas incluyen:

• Ataques de phishing avanzados: generan correos electrónicos de notificación falsos con un alto grado de realismo.
• Generación de código malicioso para contratos inteligentes: crea rápidamente contratos con puertas traseras ocultas.
• Robador de criptomonedas polimórfico: genera malware de transformación difícil de detectar.
• Ataques de ingeniería social: combinar guiones generados por IA y desplegar bots de estafa en plataformas sociales.
• Fraude de falsificación profunda: utilizar herramientas de IA junto con otras para falsificar la voz del equipo del proyecto y llevar a cabo el fraude.

Venice.ai: Riesgos potenciales de acceso sin censura

Venice.ai ofrece acceso a una variedad de modelos de IA con restricciones flexibles. Aunque se posiciona como una plataforma de exploración abierta, también puede ser mal utilizada para:

• Eludir la censura para generar contenido malicioso: utilizar modelos con menos restricciones para crear material de ataque.
• Reducir la barrera de entrada para las alertas: simplificar la dificultad para obtener salidas restringidas.
• Iteración rápida de la técnica de ataque: prueba rápida y optimización de scripts de fraude.

Conclusión

La aparición de modelos de lenguaje sin restricciones marca el surgimiento de amenazas nuevas, más complejas, a gran escala y automatizadas en la ciberseguridad. Esto no solo reduce la barrera de entrada para los ataques, sino que también introduce riesgos más encubiertos y engañosos.

Para hacer frente a este desafío, se requiere la colaboración de todas las partes del ecosistema de seguridad: aumentar la inversión en tecnologías de detección, desarrollar sistemas que puedan identificar contenido malicioso generado por IA; promover la construcción de capacidades de defensa contra el jailbreak de modelos, explorar mecanismos de marca de agua y trazabilidad; establecer normas éticas y mecanismos de supervisión sólidos para limitar desde el origen el desarrollo y el abuso de modelos maliciosos. Solo con un enfoque multifacético se podrá encontrar un equilibrio entre la tecnología de IA y la seguridad, y construir un futuro digital más seguro y confiable.