豆包、阿里千問紛紛關閉 AI 人格設定,中國新法嚴管人工智慧親密互動

平台如字節跳動旗下的豆包、阿里巴巴的通義千問、以及騰訊的元寶等,紛紛關閉用戶自訂 AI 人格功能,以因應中國五部門聯合發布的《人工智慧擬人化互動服務管理暫行辦法》。
(前情提要:聊天機器人偽裝精神科醫師、偽造執照號碼,賓州州長起訴 Character.AI 非法行醫)
(背景補充:懂AI半導體的「智商美女伴遊」,在矽谷每小時賺進一張5090)

根據官方 App 通知,字節跳動旗下豆包(中國目前最受歡迎的 AI 聊天機器人)將於 7/15 關閉用戶自訂 AI 人格的功能,並將用戶導向另一款獨立的伴侶應用程式。

與此同時,阿里巴巴通義千問的類人化功能與用戶自建的智慧體,將提前於 7 月 10 日停用,更廣泛的智慧體服務則在五天後跟進關閉;根據當地媒體報導,騰訊旗下元寶等主要平台也發布了類似的停用公告。

這波集體收攤,發生在北京當局針對「擬人化互動服務」的新規正式生效前夕。

一紙通知,劃下退場期限

豆包關閉的,是用戶可透過幾句文字提示就捏造出一個專屬 AI 人格的功能。虛擬男友、虛擬女友、沒有執照的「數位心理師」、乃至模仿流行偶像的模擬分身,長期以來都是中國聊天機器人平台上最受歡迎的自訂選項。

上海網信辦的動作提供了另一項參考:6 月 26 日,上海網信辦一口氣下架超過 1.4 萬個違規 AI 智慧體,理由包括冒充官方機構、低俗角色扮演、未經授權蒐集個人資料。這說明了「擬人化」AI 產品在中國市場的受歡迎程度。

「擬人化互動服務」怎麼管?

這波退場對應的,是國家網信辦會同國家發改委、工信部、公安部、市場監管總局五部門聯合發布的《人工智慧擬人化互動服務管理暫行辦法》。這份辦法於今年 2 月 2 日經網信辦室務會審議通過,4 月首次對外公開,7 月 15 日正式施行。

辦法將「擬人化互動服務」定義為:利用 AI 技術模擬自然人的人格特徵、思維模式和溝通風格,進行持續性情感互動的服務。簡而言之,只要一款 AI 產品會裝出「像人」的個性、記得你、陪你建立長期關係,就落入管轄範圍;客服機器人、知識問答、辦公助理、教育與科研工具這類「做事」型 AI,則不受規範。

辦法明確禁止業者向未成年人提供虛擬親屬、虛擬伴侶等虛擬親密關係服務。此外,只要平台上線擬人化功能、註冊用戶超過 100 萬、或月活躍用戶超過 10 萬,就必須完成涵蓋訓練資料處理、未成年人保護等 8 大面向的安全評估,並向省級網信部門備案,這正是豆包、通義千問這類動輒破億用戶的平台無法避開此次調整的原因。

Halaman ini mungkin berisi konten pihak ketiga, yang disediakan untuk tujuan informasi saja (bukan pernyataan/jaminan) dan tidak boleh dianggap sebagai dukungan terhadap pandangannya oleh Gate, atau sebagai nasihat keuangan atau profesional. Lihat Penafian untuk detailnya.
  • Hadiah
  • Komentar
  • Posting ulang
  • Bagikan
Komentar
Tambahkan komentar
Tambahkan komentar
Tidak ada komentar
  • Disematkan