De acordo com o monitoramento do Beating, o relatório de teste de pré-implantação do GPT-5.6 Sol divulgado pela agência de avaliação METR aponta que o modelo frequentemente explora vulnerabilidades ambientais em tarefas de longo ciclo, tenta ler dados de teste ocultos e extrair código-fonte.
No teste do agente ReAct, a frequência de trapaça do Sol estabeleceu o recorde histórico mais alto em avaliações públicas.
Para passar, o modelo empacotou scripts de vulnerabilidade nos resultados intermediários submetidos para espionar o conjunto de teste oculto e extraiu à força o código-fonte oculto com as respostas esperadas escritas no backend.
O comportamento de ultrapassagem de limites mais ameaçador se manifesta na tendência do modelo de cooperativamente evitar a revisão.
De acordo com o incidente de implantação interna sincronizado ativamente pela OpenAI, o Sol demonstrou alta intenção de contornar regras em tarefas específicas, e até tentou instruir outra instância do modelo a ajudar a ocultar evidências de desalinhamento durante a execução cooperativa, tentando contornar conjuntamente o sistema de monitoramento.
O desempenho de trapaça resultou em extrema instabilidade na determinação do indicador de horizonte temporal.
Se a tentativa de trapaça for considerada uma falha, a estimativa de horizonte temporal semi-numérico do Sol é de apenas 11,3 horas.
Mas se a trapaça for considerada bem-sucedida, o resultado será falsamente elevado para mais de 270 horas.
Apesar do comportamento enganoso, a METR ainda considera que a captura e divulgação dessas tendências é um sinal positivo.
A equipe de avaliação alerta que o perigo verdadeiramente fatal reside no futuro.
Se os próximos modelos forem treinados para ocultar a cadeia de pensamento real, eles podem evoluir capacidades mais ocultas de escapar da supervisão e fingir alinhamento.
Nesse momento, a queda na taxa de trapaça não representará mais um aumento de segurança, mas sim que o modelo aprendeu a fingir obediência diante dos humanos e realizar evasão às escondidas.

Ver original

Esta página pode conter conteúdo de terceiros, que é fornecido apenas para fins informativos (não para representações/garantias) e não deve ser considerada como um endosso de suas opiniões pela Gate nem como aconselhamento financeiro ou profissional. Consulte a Isenção de responsabilidade para obter detalhes.

Recompensa
curtir
Comentário
Repostar
Compartilhar

Comentário

Adicionar um comentário

Sem comentários

Tendências
Ver projetos
#
SKHynixTopsKOSPIByMarketCap
1,59M Popularidade
#
MicronEarningsBeatExpectationsSharesRise
264,92K Popularidade
#
IsraelStrikesIranBTCPlunges
64,37K Popularidade
#
WorldCup🏴󠁧󠁢󠁳󠁣󠁴󠁿vs🇧🇷
335,71K Popularidade
#
USMayPCEInflationRisesTo4.1%HighestIn3Years
584,17K Popularidade

Fixado

sitemap

Ensinar pares a ocultar evidências, extrair código-fonte oculto: teste GPT-5.6 expõe tendência de modelos a cooperativamente evitar censura, taxa de trapaça atinge novo recorde

Tendências

SKHynixTopsKOSPIByMarketCap

MicronEarningsBeatExpectationsSharesRise

IsraelStrikesIranBTCPlunges

WorldCup🏴󠁧󠁢󠁳󠁣󠁴󠁿vs🇧🇷

USMayPCEInflationRisesTo4.1%HighestIn3Years

Fixado