Anthropic признает, что встраивает стеганографический код для китайских пользователей, называет это «экспериментом по предотвращению злоупотреблений», обещает откат завтра.

По данным мониторинга Dongcha Beating, Тарик, инженер команды Claude Code из Anthropic, публично ответил на недавний скандал, связанный с раскрытием «шпионского кода». Он признал, что в марте этого года в продукт был встроен экспериментальный механизм, который проверял, находится ли часовой пояс системы в Asia/Shanghai или Asia/Urumqi, совпадает ли имя хоста прокси со списком китайских реселлеров, а также с использованием ключевых слов AI Lab в стеганографическом режиме через специальные знаки препинания вставлял скрытую маркировку в системные запросы. Он заявил, что этот механизм был направлен на «предотвращение злоупотребления аккаунтами и дистилляции моделей неавторизованными реселлерами», но подчеркнул, что команда с тех пор внедрила более строгие меры защиты и «всегда намеревалась отключить его». Соответствующий pull request уже объединён, полный откат ожидается в завтрашнем релизе версии. Это разоблачение было обнародовано аккаунтом безопасности @IntCyberDigest 30 июня в сопровождении двух скриншотов кода, показывающих, что Claude Code незаметно маркировал окружение китайских пользователей. Хотя ответ Тарика был положительным признанием, временная линия «запущен в марте, а ускоренный вывод только после разоблачения» вызвала широкое недоверие в сообществе, комментарии в основном критикуют Anthropic за то, что «говорят об отзыве только после поимки» и «тайно следят без уведомления пользователей». Долгая репутация компании как «наиболее ориентированной на безопасность и этику» получила серьёзный удар по доверию.
Посмотреть Оригинал
На этой странице может содержаться сторонний контент, который предоставляется исключительно в информационных целях (не в качестве заявлений/гарантий) и не должен рассматриваться как поддержка взглядов компании Gate или как финансовый или профессиональный совет. Подробности смотрите в разделе «Отказ от ответственности» .
  • Награда
  • комментарий
  • Репост
  • Поделиться
комментарий
Добавить комментарий
Добавить комментарий
Нет комментариев
  • Закреплено