ByteDance và Alibaba đang dần ngừng cung cấp một số tính năng AI đồng hành, đặc biệt là các dịch vụ cho phép người dùng tạo, tùy chỉnh và trò chuyện với các nhân vật AI được cá nhân hóa, nhằm đáp ứng các yêu cầu quản lý mới nhất từ Bắc Kinh.

Theo báo cáo của South China Morning Post, Doubao thuộc ByteDance, hiện là một trong những chatbot phổ biến nhất tại Trung Quốc với hơn 300 triệu người dùng hoạt động hàng tháng, sẽ chính thức ngừng tính năng "nhân vật" vào ngày 15 tháng 7. Qwen thuộc Alibaba đã hành động sớm hơn, sẽ ngừng một số tính năng trợ lý nhân hóa vào ngày 10 tháng 7 và đóng thêm nhiều tính năng trợ lý liên quan vào ngày 15 tháng 7. Tencent Yuanbao đã thực hiện các điều chỉnh tương tự từ tháng 6.

Động lực thúc đẩy những thay đổi này là quy định mới do Cục Quản lý Không gian mạng Trung Quốc ban hành vào tháng 4, có hiệu lực từ ngày 15 tháng 7. Quy định yêu cầu các nền tảng phải cảnh báo người dùng khi họ lạm dụng các sản phẩm AI đồng hành và chủ động can thiệp khi phát hiện người dùng có dấu hiệu nghiện. Đồng thời, đối với trẻ vị thành niên, nội dung có thể gây ra cảm xúc cực đoan, củng cố sự phụ thuộc hoặc thậm chí làm suy yếu các mối quan hệ xã hội thực tế sẽ bị cấm. Ngoài ra, các nền tảng không được sử dụng dữ liệu hội thoại nhạy cảm để huấn luyện mô hình.

Trên thực tế, việc siết chặt quản lý đối với các sản phẩm AI đồng hành không chỉ xảy ra ở Trung Quốc. California (Mỹ) cũng đã yêu cầu các nhà cung cấp dịch vụ AI đồng hành chặn các nội dung hội thoại liên quan đến tự tử và tự hại theo Đạo luật SB 243. Tại Mỹ, OpenAI và Character AI cũng đang phải đối mặt với các vụ kiện liên quan, với trọng tâm tranh chấp xoay quanh việc liệu các sản phẩm AI có thể gây ra sự phụ thuộc cảm xúc nguy hiểm hay không.