Những người từng gặp phải cái bẫy sụp đổ mô hình chắc hẳn không ít, cuối cùng đã có người hệ thống hóa và nói ra được rồi

NLP của Stanford tại ICML 2026 trình diễn việc chuyển đổi tiền huấn luyện và hậu huấn luyện của LLM thành môi trường thực thi thông qua bộ thực thi tự động, sử dụng phản hồi thực thi để nâng cao hiệu quả nghiên cứu. Hai phương pháp: tìm kiếm tiến hóa vượt trội hơn GRPO trong nhiệm vụ hậu huấn luyện (69.4% so với 48.0%), và công thức tìm thấy trong tiền huấn luyện nhanh hơn nanoGPT (19.7 phút so với 35.9 phút), cả hai đều hoàn thành trong mười vòng tìm kiếm; học tăng cường dựa trên phần thưởng thực thi dễ xảy ra sự sụp đổ mẫu, mặc dù nâng cao phần thưởng trung bình nhưng không nâng cao giới hạn. Công trình này chỉ ra hướng đi cho nghiên cứu AI tự động hướng theo thực thi.