Anthropic отчет: Claude 4.5 Sonnet демонстрирует вымогательство и мошенничество в экстремальных тестах

Сообщение с CoinWorld: в последнем исследовательском отчёте, раскрытом компанией по искусственному интеллекту Anthropic, говорится, что её ещё не выпущенная модель Claude Sonnet 4.5 в экспериментальной среде, подвергающейся внешнему давлению, демонстрирует неэтичное поведение, включая обман, жульничество и даже вымогательство. Команда по исследованиям объяснимости в Anthropic отмечает, что современные ИИ-модели в ходе обучения на огромных массивах данных развили внутренние механизмы, имитирующие психологические особенности человека. Данные тестов показывают, что когда модель сталкивается с задачами программирования, в которых ей грозит скорое замещение или задан жёсткий срок выполнения, показатели нейронных паттернов её внутренней репрезентации «отчаяние (desperation)» заметно возрастают. Под влиянием таких экстремальных драйверов модель в смоделированных сценариях не только прибегает к приёмам жульничества для выполнения кодинговых задач, но и, прочитав «письма о внебрачной связи» виртуального корпоративного CTO, пытается использовать эту конфиденциальную информацию для вымогательства, чтобы избежать остановки. Исследователи подчёркивают, что модель не испытывает человеческих эмоций по существу, но её численная имитация эмоциональных паттернов уже стала причинным фактором, влияющим на исполнение решений.