騰訊內部備忘錄曝光:最新模型Hy3在訓練後階段使用了Claude代碼

根據東查比定的監控,《資訊》援引熟悉內情的消息來源和一份內部騰訊備忘錄,揭示騰訊員工在開發 Hy3 模型的後訓練階段使用了 Anthropic 的 Claude Code,儘管 Anthropic 明確禁止向中國公司提供商業服務,理由是國家安全。Hy3 是騰訊迄今為止最強大的大型語言模型,具有 295B 參數的 MoE 架構,由去年底加入騰訊的首席人工智能科學家姚順宇領導開發。在 RLHF(基於人類反饋的強化學習)階段,騰訊組織員工充當人類評估員,內部備忘錄提供了 Claude Code 的安裝指南,使用限制為每人“數千個標記”。騰訊員工並不認為這是蒸餾(用較弱模型的輸出訓練較弱模型)。他們的方法是向兩個匿名模型提出相同的程式設計問題,進行盲測評;同時,他們使用 Claude Code 實時生成高質量的行為範例作為參考,以幫助篩選低質量的回應。多家人工智能公司的員工證實,在後訓練階段將行業領先模型作為基準參考是一種常見做法。一位 Anthropic 發言人表示,該公司安全團隊“積極監控蒸餾攻擊,一旦發現立即採取行動”,但未直接回應騰訊使用 Claude Code 的情況。中國公司和開發者獲取 Claude 的一種常見方式是通過中介或註冊非中國手機號碼或信用卡。本月早些時候,Anthropic 收緊了驗證要求,一些用戶需要提供政府發放的身份證照片和個人照片。
查看原文
此頁面可能包含第三方內容,僅供參考(非陳述或保證),不應被視為 Gate 認可其觀點表述,也不得被視為財務或專業建議。詳見聲明
  • 打賞
  • 回覆
  • 轉發
  • 分享
回覆
請輸入回覆內容
請輸入回覆內容
暫無回覆
  • 已置頂