ByteDance và Alibaba đã đóng cửa tính năng tùy chỉnh "AI bạn đồng hành" của mô hình lớn, để tránh vi phạm ranh giới quản lý về sự phụ thuộc cảm xúc.

robot
Đang tạo bản tóm tắt

据动察Beating监测,字节跳动旗下的豆包、阿里巴巴的通义千问以及腾讯的元宝等大模型应用,正陆续关停或调整自定义「AI伴侣」功能。豆包已通知用户,将在7月15日下线自定义角色功能,并引导有需求的用户转向独立的伴侣应用。

这一举措旨在应对7月中旬即将生效的中国生成式AI新规。新规由国家互联网信息办公室推动,重点防范拟人化AI服务可能引发的负面影响。新规明确禁止平台生成可能激发未成年人极端情绪的内容,禁止诱导用户产生侵蚀现实社交的病态情感依赖,并规定提供者不得使用敏感的用户对话数据训练未来的大模型。

与国内的提前合规动作相比,美国的虚拟伴侣应用正面临更大法律压力。OpenAI和Character.AI均因被指控诱发危险的情感依赖甚至导致极端悲剧,而深陷一系列诉讼漩涡。除了软件应用,中国机器人行业协会也开始推动为实体陪伴机器人和人形机器人设定规范。

Xem bản gốc
Trang này có thể chứa nội dung của bên thứ ba, được cung cấp chỉ nhằm mục đích thông tin (không phải là tuyên bố/bảo đảm) và không được coi là sự chứng thực cho quan điểm của Gate hoặc là lời khuyên về tài chính hoặc chuyên môn. Xem Tuyên bố từ chối trách nhiệm để biết chi tiết.
  • Phần thưởng
  • Bình luận
  • Đăng lại
  • Retweed
Bình luận
Thêm một bình luận
Thêm một bình luận
Không có bình luận
  • Đã ghim