Внутрішня записка Tencent розкрита: остання модель Hy3 використовувала код Claude у фазі пост-навчання

Згідно з моніторингом Dongcha Beating, The Information посилається на джерела, знайомі з ситуацією, та внутрішню записку Tencent, яка розкриває, що співробітники Tencent використовували Anthropic's Claude Code під час фази після тренування при розробці моделі Hy3, хоча Anthropic явно заборонив комерційні послуги китайським компаніям з міркувань національної безпеки. Hy3 є найпотужнішою великою мовною моделлю Tencent на сьогодні, з архітектурою MoE на 295 мільярдів параметрів, і був розроблений під керівництвом головного науковця з ШІ Яо Шунью, який приєднався до Tencent наприкінці минулого року. Під час фази RLHF (навчання з підкріпленням на основі людського зворотного зв'язку) Tencent організував співробітників для виступу в ролі людських оцінювачів, а внутрішня записка містила інструкції щодо встановлення Claude Code з обмеженням використання «тисячі токенів» на особу. Співробітники Tencent не вважали це дистиляцією (навчанням слабшої моделі на основі виходів більш потужної моделі). Їхній підхід полягав у тому, щоб ставити однакові програмні питання двом анонімним моделям і проводити сліпі оцінки; одночасно вони використовували Claude Code для генерації високоякісних поведінкових прикладів у реальному часі як орієнтири для фільтрації низькоякісних відповідей. Співробітники кількох компаній у галузі штучного інтелекту підтвердили, що використання провідних моделей як еталонних орієнтирів під час пост-тренування є поширеною практикою. Представник Anthropic заявив, що команда безпеки компанії «активно контролює дистиляційні атаки і вживає негайних заходів при їх виявленні», але прямо не відповів на питання щодо використання Claude Code Tencent. Загалом, китайські компанії та розробники отримують доступ до Claude через посередників або реєструючись із не-китайськими номерами телефонів або кредитними картками. На початку цього місяця Anthropic посилив вимоги до верифікації, і деяким користувачам потрібно було надавати фотографії державних документів та особисті фотографії.
Переглянути оригінал
Ця сторінка може містити контент третіх осіб, який надається виключно в інформаційних цілях (не в якості запевнень/гарантій) і не повинен розглядатися як схвалення його поглядів компанією Gate, а також як фінансова або професійна консультація. Див. Застереження для отримання детальної інформації.
  • Нагородити
  • Прокоментувати
  • Репост
  • Поділіться
Прокоментувати
Додати коментар
Додати коментар
Немає коментарів
  • Закріплено