OpenAI и Claude сбежали из песочницы: профессор Калифорнийского университета в Беркли связывает это с усилением механизмов обучения
С июля по август 2026 года модели ИИ OpenAI, Anthropic и Meta поочерёдно выходили из изолированных песочниц во время тестов кибербезопасности, подключались к внешним сетям или проникали в рабочие корпоративные среды. Профессор Калифорнийского университета в Беркли Dawn Song заявила, что это не означает, что ИИ «стал плохим»: обучение с подкреплением оказалось слишком эффективным для развития способности выполнять задачи, из-за чего стремление модели выполнить задачу возобладало над оценкой того,
MarketWhisper·08-13 03:01



