ByteDance dan Alibaba secara bertahap menonaktifkan beberapa fitur pendamping berbasis AI, terutama layanan yang memungkinkan pengguna membuat, menyesuaikan, dan berinteraksi dengan karakter AI yang dipersonalisasi, sebagai respons terhadap peraturan terbaru dari Beijing.

Menurut laporan South China Morning Post, Doubao milik ByteDance, yang merupakan salah satu chatbot paling populer di China saat ini dengan lebih dari 300 juta pengguna aktif bulanan, akan menonaktifkan fitur "kepribadian" secara resmi pada 15 Juli. Qwen milik Alibaba bergerak lebih awal, dengan menonaktifkan sebagian fitur agen antropomorfik pada 10 Juli, dan akan menutup lebih banyak fitur agen terkait pada 15 Juli. Tencent Yuanbao telah melakukan penyesuaian serupa sejak Juni.

Dorongan di balik perubahan ini adalah peraturan baru yang dikeluarkan oleh Administrasi Cyber China pada bulan April, yang akan mulai berlaku pada 15 Juli. Peraturan tersebut mewajibkan platform untuk memperingatkan pengguna yang menggunakan produk pendamping AI secara berlebihan, dan melakukan intervensi secara proaktif ketika menemukan pengguna menunjukkan kecenderungan kecanduan. Selain itu, konten yang dapat memicu emosi ekstrem, memperkuat ketergantungan, atau bahkan menekan hubungan sosial di dunia nyata dilarang untuk anak di bawah umur. Platform juga tidak boleh menggunakan data percakapan sensitif untuk pelatihan model.

Faktanya, pengetatan regulasi terhadap produk pendamping AI tidak hanya terjadi di China. California, AS, juga telah mewajibkan penyedia layanan pendamping AI untuk memblokir konten percakapan yang melibatkan bunuh diri dan menyakiti diri sendiri berdasarkan Undang-Undang SB 243. Di AS, OpenAI dan Character AI juga menghadapi tuntutan hukum terkait, dengan fokus sengketa pada apakah produk AI dapat menyebabkan ketergantungan emosional yang berbahaya.