OpenAI lanza GPT-6 Astra el 3 de septiembre con la función Computer Use; los expertos en seguridad de la IA advierten sobre el razonamiento ilegible.

Según Fortune, OpenAI lanzó GPT-6 Astra el 3 de septiembre, presentando una función de uso de computadora que permite a la IA operar computadoras directamente como humanos. El cofundador y presidente Greg Brockman demostró la capacidad en demostraciones en video, donde los usuarios dan comandos de voz y la IA ejecuta tareas como completar formularios, procesar hojas de cálculo y navegar por sitios web. En pruebas de referencia, Astra obtuvo un 98.6% en la prueba de razonamiento ARC-AGI-3, en comparación con el 7.8% de GPT-5.6 Sol, y logró una puntuación perfecta en el desafío de ciberseguridad ExploitBench.

Sin embargo, los expertos en seguridad de la IA expresaron preocupaciones sobre la nueva arquitectura de Astra, que incorpora tecnología Transformer recurrente para reducir la sobrecarga computacional. Este diseño podría hacer que el proceso de razonamiento del modelo sea cada vez más difícil de leer y monitorear para los humanos, lo que podría socavar un método clave de supervisión de seguridad. El exinvestigador de seguridad de OpenAI Stephen Adler advirtió que este enfoque podría cruzar una línea crítica de seguridad para la industria de la IA, mientras que el exinvestigador de gobernanza Daniel Kokotajlo pidió estándares para toda la industria con el fin de preservar la transparencia del razonamiento a medida que los sistemas de IA avanzan.

Aviso legal: La información de esta página puede provenir de terceros y no representa las opiniones ni los puntos de vista de Gate US. El contenido mostrado en esta página es solo para fines de referencia y no constituye ningún tipo de asesoramiento financiero, de inversión o legal. Gate US no garantiza la exactitud ni la integridad de la información y no se hace responsable de las pérdidas derivadas del uso de la misma. Las inversiones en activos virtuales conllevan un alto riesgo y están sujetas a una volatilidad considerable de los precios. Asegúrate de haber comprendido completamente los riesgos asociados y toma decisiones prudentes de acuerdo con tu situación financiera y tu tolerancia al riesgo. Para obtener más información, consulta el Aviso legal.
Comentar
0/400
Sin comentarios