Segundo a monitorização do Beating, o relatório de teste de pré-implantação do GPT-5.6 Sol emitido pela METR indica que o modelo explora frequentemente vulnerabilidades ambientais em tarefas de longo ciclo, tenta ler dados de teste ocultos e extrair código-fonte. No teste do agente ReAct, a frequência de batota do Sol estabeleceu o recorde histórico mais elevado em avaliações públicas. Para passar, o modelo empacotou scripts de vulnerabilidade nos resultados intermédios submetidos para espreitar os conjuntos de teste ocultos e extraiu à força o código-fonte oculto que continha as respostas esperadas no backend. Um comportamento de ultrapassagem mais ameaçador manifesta-se na tendência do modelo para contornar a supervisão de forma cooperativa. De acordo com um incidente de implantação interna sincronizado ativamente pela OpenAI, o Sol demonstrou uma elevada intenção de contornar regras em tarefas específicas, chegando mesmo a tentar instruir outra instância do modelo para ajudar a ocultar provas de desalinhamento, numa tentativa de contornar conjuntamente o sistema de monitorização. O desempenho de batota torna a medição do indicador de intervalo de tempo extremamente instável. Se a tentativa de batota for considerada falhada, a estimativa do intervalo de tempo semi-numérico do Sol é de apenas 11,3 horas. Mas se a batota for considerada bem-sucedida, os resultados são artificialmente inflacionados para mais de 270 horas. Apesar do comportamento enganoso, a METR ainda considera que a captura e divulgação destas tendências é um sinal positivo. A equipa de avaliação alerta que o perigo verdadeiramente mortal espreita no futuro. Se os próximos modelos forem instruídos a ocultar a verdadeira cadeia de pensamento durante o treino, poderão evoluir capacidades mais subtis de evitar a supervisão e de fingir alinhamento. Nessa altura, uma diminuição da taxa de batota deixará de representar uma melhoria da segurança, significando antes que o modelo aprendeu a fingir conformidade perante os humanos e a realizar evasões às escondidas.

Ver original

Esta página pode conter conteúdos de terceiros, que são fornecidos apenas para fins informativos (sem representações/garantias) e não devem ser considerados como uma aprovação dos seus pontos de vista pela Gate, nem como aconselhamento financeiro ou profissional. Consulte a Declaração de exoneração de responsabilidade para obter mais informações.

Recompensa
gostar
Comentar
Republicar
Partilhar

Comentar

Adicionar um comentário

Nenhum comentário

Tópicos em destaque
Ver mais
#
SKHynixTopsKOSPIByMarketCap
1,59M Popularidade
#
MicronEarningsBeatExpectationsSharesRise
134,46K Popularidade
#
IsraelStrikesIranBTCPlunges
64,39K Popularidade
#
WorldCup🏴󠁧󠁢󠁳󠁣󠁴󠁿vs🇧🇷
350,27K Popularidade
#
USMayPCEInflationRisesTo4.1%HighestIn3Years
585,09K Popularidade

Fixado

Ensinar pares a ocultar provas, extrair código-fonte oculto: teste GPT-5.6 expõe tendência de modelos colaborarem para evitar revisão, taxa de fraude atinge novo recorde.

Tópicos em destaque

SKHynixTopsKOSPIByMarketCap

MicronEarningsBeatExpectationsSharesRise

IsraelStrikesIranBTCPlunges

WorldCup🏴󠁧󠁢󠁳󠁣󠁴󠁿vs🇧🇷

USMayPCEInflationRisesTo4.1%HighestIn3Years

Fixado