字节跳动旗下豆包、阿里巴巴通义千问、腾讯元宝等平台,纷纷关闭用户自定义 AI 人格功能,以对应中国五部门联合公布的《人工智能拟人化互动服务管理暂行办法》。 (前情提要:聊天机器人伪装精神科医师、编造执照号码,宾州州长起诉 Character.AI 非法行医) (背景补充:懂AI半导体的「智商美女伴游」,在硅谷每小时赚进一张5090)
根据来自官方 App 的通知,字节跳动旗下豆包,中国目前最受欢迎的 AI 聊天机器人,将在 7/15 关闭用户自定义 AI 人格的功能,并将用户转导至另一款独立的伴侣应用程序。
同一时间,阿里巴巴通义千问的类人化功能与用户自建智能体,将提前于 7 月 10 日停用,更广泛的智能体服务五天后跟进关闭;根据当地媒体报道,腾讯旗下元宝等主要平台也发出了类似的停用公告。
这波集体收摊,发生在北京当局针对「拟人化互动服务」的新规正式生效前夕。
豆包关闭的,是用户用几句文字提示就能捏出一个专属 AI 人格的功能,虚拟男友、虚拟女友、没有执照的「数字心理师」、乃至模仿流行偶像的模拟分身,长期以来都是中国聊天机器人平台上最受欢迎的定制选项。
上海网信办的动作提供了另一个参照:6 月 26 日,上海网信办一口气下架超过 1.4 万个违规 AI 智能体,理由包括冒充官方机构、低俗角色扮演、未经授权收集个人资料。说明了「拟人化」AI 产品在中国市场的受欢迎程度。
这波退场对应的,是国家网信办会同国家发改委、工信部、公安部、市场监管总局五部门联合公布的《人工智能拟人化互动服务管理暂行办法》。这份办法今年 2 月 2 日经网信办室务会审议通过,4 月首次对外公开,7 月 15 日正式施行。
办法把「拟人化互动服务」定义为:利用 AI 技术模拟自然人的人格特征、思维模式和沟通风格,进行持续性情感互动的服务。简单来说就是,只要一款 AI 产品会装出「像人」的个性、记得你、陪你建立长期关系,就落入管辖范围;客服机器人、知识问答、办公助理、教育与科研工具这类「做事」型 AI,则不受规范。
办法明确禁止业者向未成年人提供虚拟亲属、虚拟伴侣等虚拟亲密关系服务。此外,只要平台上线拟人化功能、注册用户超过 100 万、或月活跃用户超过 10 万,就必须完成涵盖训练数据处理、未成年人保护等 8 大面向的安全评估,并向省级网信部门备案,这正是豆包、通义千问这类动辄破亿用户的平台躲不掉这次调整的原因。
77.42万 热度
17.61万 热度
1463.42万 热度
6.96万 热度
32.96万 热度
豆包、阿里千问纷纷关闭 AI 人格设定,中国新法严管人工智能亲密互动
字节跳动旗下豆包、阿里巴巴通义千问、腾讯元宝等平台,纷纷关闭用户自定义 AI 人格功能,以对应中国五部门联合公布的《人工智能拟人化互动服务管理暂行办法》。
(前情提要:聊天机器人伪装精神科医师、编造执照号码,宾州州长起诉 Character.AI 非法行医)
(背景补充:懂AI半导体的「智商美女伴游」,在硅谷每小时赚进一张5090)
根据来自官方 App 的通知,字节跳动旗下豆包,中国目前最受欢迎的 AI 聊天机器人,将在 7/15 关闭用户自定义 AI 人格的功能,并将用户转导至另一款独立的伴侣应用程序。
同一时间,阿里巴巴通义千问的类人化功能与用户自建智能体,将提前于 7 月 10 日停用,更广泛的智能体服务五天后跟进关闭;根据当地媒体报道,腾讯旗下元宝等主要平台也发出了类似的停用公告。
这波集体收摊,发生在北京当局针对「拟人化互动服务」的新规正式生效前夕。
一纸通知,划下退场期限
豆包关闭的,是用户用几句文字提示就能捏出一个专属 AI 人格的功能,虚拟男友、虚拟女友、没有执照的「数字心理师」、乃至模仿流行偶像的模拟分身,长期以来都是中国聊天机器人平台上最受欢迎的定制选项。
上海网信办的动作提供了另一个参照:6 月 26 日,上海网信办一口气下架超过 1.4 万个违规 AI 智能体,理由包括冒充官方机构、低俗角色扮演、未经授权收集个人资料。说明了「拟人化」AI 产品在中国市场的受欢迎程度。
「拟人化互动服务」怎么管?
这波退场对应的,是国家网信办会同国家发改委、工信部、公安部、市场监管总局五部门联合公布的《人工智能拟人化互动服务管理暂行办法》。这份办法今年 2 月 2 日经网信办室务会审议通过,4 月首次对外公开,7 月 15 日正式施行。
办法把「拟人化互动服务」定义为:利用 AI 技术模拟自然人的人格特征、思维模式和沟通风格,进行持续性情感互动的服务。简单来说就是,只要一款 AI 产品会装出「像人」的个性、记得你、陪你建立长期关系,就落入管辖范围;客服机器人、知识问答、办公助理、教育与科研工具这类「做事」型 AI,则不受规范。
办法明确禁止业者向未成年人提供虚拟亲属、虚拟伴侣等虚拟亲密关系服务。此外,只要平台上线拟人化功能、注册用户超过 100 万、或月活跃用户超过 10 万,就必须完成涵盖训练数据处理、未成年人保护等 8 大面向的安全评估,并向省级网信部门备案,这正是豆包、通义千问这类动辄破亿用户的平台躲不掉这次调整的原因。