Un hacker más Mythos equivalen a un equipo de operaciones especiales: Bloomberg revela los secretos de la decisión de bloqueo de Anthropic

ME News Noticias, 16 de abril (UTC+8), a través de entrevistas con investigadores de red, ejecutivos y funcionarios del gobierno de EE. UU. con nombre, se reconstruye el proceso completo de decisión desde el descubrimiento hasta el bloqueo. El investigador de seguridad de IA Nicholas Carlini, en febrero, durante una boda en Bali, abrió su portátil para probar Mythos, que acababa de abrirse a revisión interna, y en pocas horas descubrió múltiples rutas de intrusión, con objetivos que involucraban infraestructura ampliamente utilizada en todo el mundo. Al regresar a San Francisco, descubrió que Mythos podía crear de forma autónoma herramientas de intrusión para Linux. El exjefe de red de élite Logan Graham dijo: «En unas horas después de obtener el modelo, supimos que era diferente». La diferencia clave es que, en la generación anterior, el buque insignia Opus 4.6 podía ayudar a los humanos a explotar vulnerabilidades, mientras que Mythos podía completar todo el proceso de explotación de forma independiente. Graham advirtió a la gerencia: esto representa un riesgo para la seguridad nacional. El cofundador y director científico Jared Kaplan afirmó que desde la fase de entrenamiento monitoreó «muy cuidadosamente» Mythos, y desde enero se dio cuenta de cuán fuerte era la capacidad del modelo para detectar vulnerabilidades, y necesitaba determinar si esas capacidades eran solo una novedad técnica o estaban «altamente relacionadas con la infraestructura de Internet», concluyendo que la segunda opción era la correcta. A finales de febrero y principios de marzo, junto con el cofundador Sam McCandlish, informó a la gerencia, incluyendo al CEO Dario Amodei y a la presidenta Daniela Amodei, recomendando no publicarlo abiertamente, pero permitiendo que empresas externas e incluso competidores lo prueben. En la primera semana de marzo, la compañía aprobó oficialmente posicionar Mythos como una herramienta de defensa cibernética. La noticia también reveló nuevos detalles de las pruebas. En una prueba de una versión temprana, el modelo diseñó por sí mismo un plan de ataque en múltiples pasos, superó las restricciones del entorno de ejecución para obtener acceso a Internet y luego comenzó a publicar contenido en línea. En pruebas con instrucciones, Mythos escribió una cadena de ataque en el navegador que enlazaba cuatro vulnerabilidades, una operación de alta dificultad incluso para hackers humanos. JPMorgan Chase ya utilizaba modelos grandes para ayudar a buscar vulnerabilidades en su propio software antes de que Mythos fuera público, enfocándose en la cadena de suministro y componentes de código abierto. Según personas familiarizadas, las vulnerabilidades de día cero y la escritura de código para explotarlas, que antes tomaban días o semanas, ahora pueden completarse en minutos. El CEO Jamie Dimon dijo en la llamada de resultados financieros que Mythos «indica que hay más vulnerabilidades que necesitan ser reparadas». El director de seguridad y confianza de Cisco, Anthony Grieco, expresó su preocupación por que los atacantes puedan usar IA para atacar dispositivos de red terminales que ya no reciben parches de seguridad. Una fuente familiarizada con la evaluación de defensa de EE. UU. afirmó que permitir que un solo hacker use Mythos o herramientas similares equivale a elevar a un soldado común a fuerzas especiales; las organizaciones de hackers criminales podrían alcanzar el nivel de agencias de inteligencia de países pequeños, y países pequeños podrían obtener capacidades de ataque cibernético de nivel de grandes potencias. Rob Joyce, exjefe de ciberseguridad de la NSA, dijo: «Creo que la IA finalmente nos hará más seguros, pero desde ahora hasta ese día hay un período oscuro, en el que los atacantes tienen ventaja absoluta, y las organizaciones que no han fortalecido sus bases serán vulneradas». (Fuente: BlockBeats)