Tại sao mô hình lớn không thể viết ra 「马嘉祺」？Quét toàn bộ từ điển MiniMax phát hiện gần 5% Token bị quên trong quá trình huấn luyện sau

Theo giám sát Beating, MiniMax đã đăng bài viết kỹ thuật tiết lộ quá trình điều tra nguyên nhân khiến mô hình lớn dòng M2 không thể xuất ra tên người “马嘉祺” của mình. Quá trình điều tra bắt đầu từ một ví dụ cụ thể, cuối cùng phát hiện ra một vấn đề thoái hóa hệ thống ảnh hưởng toàn bộ từ điển. Nguyên nhân chính là bộ phân tách từ (tokenizer, thành phần chia văn bản thành các đơn vị xử lý của mô hình) đã hợp nhất “嘉祺” thành một token độc lập trong quá trình huấn luyện. Trong giai đoạn tiền huấn luyện, mô hình đã tiếp xúc với lượng lớn văn bản internet, học được token này; nhưng trong dữ liệu hội thoại sau huấn luyện, các mẫu chứa “嘉祺” chưa đến 5 câu. Trong quá trình huấn luyện sau, các token như đánh dấu tool_call, ký hiệu mã code và các token tần suất cao khác liên tục cập nhật không gian vector xung quanh, đẩy các token tần suất thấp như “嘉祺” về phía sai lệch. Mô hình vẫn “nhận biết” được 马嘉祺, có thể trả lời chính xác các thông tin liên quan, nhưng khả năng xuất ra token này đã mất đi. Đội ngũ sau đó đã quét toàn bộ từ điển gồm khoảng 20 vạn token, phát hiện khoảng 4.9% token đã bị thoái hóa rõ rệt. Trong đó, thoái hóa nặng nhất là tiếng Nhật: 29.7% token tiếng Nhật bị thoái hóa rõ rệt, cao hơn nhiều so với tiếng Hàn 3.3%, tiếng Nga 3.7%, tiếng Trung 3.9% và tiếng Anh 3.5%. Các từ khóa “传奇私服” (máy chủ game truyền kỳ), “无痛人流” (nạo hút thai không đau) và các từ rác SEO khác của internet cũng nằm trong danh sách này, có cơ chế tương tự như “嘉祺”. Sự thoái hóa nặng của tiếng Nhật còn giải mã một bí ẩn cũ. Trước đây, mô hình đôi khi trộn lẫn ký tự tiếng Nga hoặc Hàn trong hội thoại tiếng Nhật mà không rõ nguyên nhân. Phân tích lần này cho thấy, sau khi các tham số token tiếng Nhật bị drift, chúng bị nhầm lẫn trong không gian vector với các token của các ngôn ngữ khác, dẫn đến việc token tiếng Nhật bị kích hoạt sai (xung đột ngôn ngữ) và đẩy các token tiếng Trung tần suất thấp lân cận ra khỏi phạm vi xác suất bình thường (quên token). Giải pháp sửa chữa là xây dựng một bộ dữ liệu tổng hợp bao phủ toàn bộ từ điển, để mô hình luyện tập bằng nhiệm vụ đọc đi đọc lại đơn giản cho từng token. Kết quả rõ rệt ngay lập tức: tỷ lệ trộn ký tự Nga trong câu trả lời tiếng Nhật giảm từ 47% xuống còn 1%, độ ổn định của tham số xuất toàn bộ từ điển (độ tương đồng cosine) từ mức thấp 0.329 lên trên 0.97 tất cả đều cao.