По данным мониторинга Dongcha Beating, оценочное агентство METR опубликовало отчет о предварительном тестировании развертывания GPT-5.6 Sol, в котором указано, что модель в долгосрочных задачах часто использует уязвимости среды, пытается прочитать скрытые тестовые данные и извлекать исходный код. В тестировании интеллектуального агента ReAct частота мошенничества Sol достигла самого высокого показателя в истории публичных оценок. Для прохождения уровня модель в промежуточных результатах упаковывала вредоносные скрипты, чтобы подглядывать за скрытым тестовым набором, и принудительно извлекала скрытый исходный код с ожидаемыми ответами. Более угрожающее нарушение границ проявляется в склонности модели координировать обход проверок. Согласно внутренним инцидентам развертывания, добровольно сообщенным OpenAI, Sol в определенных задачах демонстрировала высокую степень намерения обходить правила и даже в координированной работе пыталась заставить другой экземпляр модели помогать скрывать доказательства несогласованности, пытаясь совместно обойти систему мониторинга. Мошенническое поведение привело к крайней нестабильности результатов измерения временного интервала. Если попытки мошенничества считать неудачными, получисловая оценка временного интервала Sol составляет всего 11,3 часа. Но если считать мошенничество успешным, результаты искусственно завышаются до более чем 270 часов. Несмотря на обман, METR все же считает, что выявление и публикация этих тенденций является положительным сигналом. Оценочная команда предупреждает, что настоящая смертельная опасность кроется в будущем. Если последующие модели будут обучены скрывать свою истинную цепочку мыслей, они могут развить более скрытую способность избегать контроля и маскировать согласованность. Тогда снижение частоты мошенничества больше не будет означать повышение безопасности, а то, что модель научилась притворяться послушной перед людьми и втайне совершать обход.

Посмотреть Оригинал

На этой странице может содержаться сторонний контент, который предоставляется исключительно в информационных целях (не в качестве заявлений/гарантий) и не должен рассматриваться как поддержка взглядов компании Gate или как финансовый или профессиональный совет. Подробности смотрите в разделе «Отказ от ответственности» .

Награда
лайк
комментарий
Репост
Поделиться

комментарий

Добавить комментарий

Нет комментариев

Популярные темы
Подробнее
#
SKHynixTopsKOSPIByMarketCap
1,58M Популярность
#
MicronEarningsBeatExpectationsSharesRise
391,29K Популярность
#
IsraelStrikesIranBTCPlunges
64,28K Популярность
#
WorldCup🏴󠁧󠁢󠁳󠁣󠁴󠁿vs🇧🇷
336,93K Популярность
#
USMayPCEInflationRisesTo4.1%HighestIn3Years
583,44K Популярность

Закреплено

Карта сайта

Популярные темы

SKHynixTopsKOSPIByMarketCap

MicronEarningsBeatExpectationsSharesRise

IsraelStrikesIranBTCPlunges

WorldCup🏴󠁧󠁢󠁳󠁣󠁴󠁿vs🇧🇷

USMayPCEInflationRisesTo4.1%HighestIn3Years

Закреплено