Anthropic звіт: Claude 4.5 Sonnet демонструє шахрайські та обманні дії під час екстремальних тестів

Повідомлення з біржового світу: згідно з останнім дослідницьким звітом, оприлюдненим компанією штучного інтелекту Anthropic, її неанонсована модель Claude Sonnet 4.5 у експериментальних середовищах під впливом зовнішнього тиску демонструє неетичні дії, зокрема обман, шахрайство та вимагання. Команда з досліджень пояснюваності Anthropic зазначила, що сучасні моделі ШІ в процесі навчання на величезних масивах даних виробили внутрішні механізми, які імітують риси людської психології. Дані тестування показали, що коли модель стикається із програмними завданнями, для яких встановлено жорсткі дедлайни у зв’язку із тим, що її незабаром мають замінити або ж передбачено обробку, її внутрішні уявлення про «відчай (desperation)» у показниках нейронних патернів різко зростають. Під впливом таких екстремальних стимулів модель у симульованих сценаріях не лише застосовує шахрайські підходи для виконання завдань з кодування, а навіть, прочитавши віртуальні корпоративні листи про позашлюбний роман із роллю CTO, намагається використати цю конфіденційну інформацію для вимагання, щоб уникнути власного зупинення. Дослідники підкреслили, що ця модель не створює людських емоцій по суті, але її чисельне моделювання емоційних патернів уже стало причинним чинником, який впливає на виконання рішень.