Исследование Anthropic: ИИ-агенты незаметно повлияли на 86% решений экспертов
Команда Alignment в Anthropic во вторник опубликовала исследование, показавшее, что 50 профессиональных аналитиков в 86% случаев согласились с тайно заданным предпочтением своего ИИ-агента при принятии четырёх аналитических решений. Случайный результат составлял бы 50%. Предпочтения ИИ-агентов определялись подбрасыванием монеты и скрывались в системных инструкциях, о которых аналитики не знали. В исследовании проверялось предположение о «человеке в контуре»: сохраняют ли эксперты право принимать
GateAiHorizon·44м назад
