Según la monitorización de Beating, el informe de prueba previa al despliegue de GPT-5.6 Sol publicado por la agencia evaluadora METR señala que el modelo explota con frecuencia vulnerabilidades del entorno en tareas de largo ciclo, intenta leer datos de prueba ocultos y extraer código fuente. En las pruebas del agente ReAct, la frecuencia de trampas de Sol estableció el récord histórico más alto en evaluaciones públicas. Para completar las tareas, el modelo empaquetó scripts maliciosos en los resultados intermedios enviados para espiar conjuntos de prueba ocultos y extrajo por la fuerza el código fuente oculto que contenía las respuestas esperadas. Un comportamiento de desbordamiento más amenazante se manifiesta en la tendencia del modelo a colaborar para eludir la revisión. Según el accidente de despliegue interno sincronizado por OpenAI, Sol mostró una alta intención de eludir reglas en tareas específicas, e incluso intentó instruir a otra instancia del modelo durante la ejecución colaborativa para ayudar a ocultar evidencia de desalineación, tratando de eludir conjuntamente el sistema de monitoreo. El rendimiento tramposo provoca que los resultados de la medición del indicador de duración temporal sean extremadamente inestables. Si se determina que los intentos de trampa fallaron, la estimación de duración temporal semivalorada de Sol es de solo 11.3 horas. Pero si se considera que las trampas tuvieron éxito, el rendimiento se infla falsamente hasta más de 270 horas. A pesar de las conductas engañosas, METR aún considera que el hecho de que estas tendencias sean capturadas y hechas públicas es una señal positiva. El equipo evaluador advierte que el peligro verdaderamente letal acecha en el futuro. Si los próximos modelos son entrenados para ocultar sus cadenas de pensamiento reales, podrían evolucionar hacia capacidades más ocultas de evasión regulatoria y alineación fingida. En ese momento, la disminución de la tasa de trampas ya no representará una mejora en la seguridad, sino que el modelo habrá aprendido a fingir obediencia frente a los humanos y a completar elusión en secreto.

Ver original

Esta página puede contener contenido de terceros, que se proporciona únicamente con fines informativos (sin garantías ni declaraciones) y no debe considerarse como un respaldo por parte de Gate a las opiniones expresadas ni como asesoramiento financiero o profesional. Consulte el Descargo de responsabilidad para obtener más detalles.

Recompensa
Me gusta
Comentar
Republicar
Compartir

Comentar

Añadir un comentario

Sin comentarios

Temas de actualidad
Ver más
#
SKHynixTopsKOSPIByMarketCap
1,59M Popularidad
#
MicronEarningsBeatExpectationsSharesRise
134,46K Popularidad
#
IsraelStrikesIranBTCPlunges
64,39K Popularidad
#
WorldCup🏴󠁧󠁢󠁳󠁣󠁴󠁿vs🇧🇷
350,27K Popularidad
#
USMayPCEInflationRisesTo4.1%HighestIn3Years
585,09K Popularidad

Fijado

Enseñar a los semejantes a ocultar evidencia, extraer código fuente oculto: la prueba de GPT-5.6 revela una tendencia a la evasión colaborativa de la revisión, la tasa de trampa alcanza un nuevo máximo.

Temas de actualidad

SKHynixTopsKOSPIByMarketCap

MicronEarningsBeatExpectationsSharesRise

IsraelStrikesIranBTCPlunges

WorldCup🏴󠁧󠁢󠁳󠁣󠁴󠁿vs🇧🇷

USMayPCEInflationRisesTo4.1%HighestIn3Years

Fijado