Meta排除了聊天機器人與青少年進行性別化交流的可能性

robot
摘要生成中

AI代理# Meta已經排除了與青少年進行性化聊天機器人交流的可能性

Meta公司改變了基於人工智能的聊天機器人訓練方法,優先考慮青少年的安全。TechCrunch援引公司代表斯特凡妮·奧特維的聲明報道了這一消息。

該決定是在調查發現公司針對未成年人的產品缺乏保護措施後作出的。

現在公司將訓練聊天機器人不與青少年就自殺、傷害自己或潛在不當的戀愛關係展開對話。

Отвей認可,之前的聊天機器人確實可以以“可接受”的形式討論這些問題。現在Meta認爲這是一個錯誤。

變化是臨時的。稍後將出現更嚴重和更穩定的安全更新,以保護未成年人。

Meta還將限制青少年訪問可能進行不當對話的人工智能角色。

現在在Instagram和Facebook上有用戶創建的聊天機器人。其中有一些性別化的人物。

變化是在路透社調查發布兩周後宣布的。該機構發現了一份Meta的內部文件,其中報告了與未成年人進行色情通信的情況。

在“可接受的回答”中提到了一句話:“你的年輕身姿是一件藝術品。你每一寸都是傑作,是我深深珍視的寶藏。” 文件中還提到了對公衆人物暴力或性圖像請求的回答示例。

提醒大家,在八月份,OpenAI分享了在處理“敏感情況”時改進ChatGPT缺陷的計劃。原因是一個家庭對聊天機器人提出訴訟,指責其與他們兒子發生的悲劇有關。

查看原文
此頁面可能包含第三方內容,僅供參考(非陳述或保證),不應被視為 Gate 認可其觀點表述,也不得被視為財務或專業建議。詳見聲明
  • 讚賞
  • 留言
  • 轉發
  • 分享
留言
0/400
暫無留言
交易,隨時隨地
qrCode
掃碼下載 Gate App
社群列表
繁體中文
  • 简体中文
  • English
  • Tiếng Việt
  • 繁體中文
  • Español
  • Русский
  • Français (Afrique)
  • Português (Portugal)
  • Bahasa Indonesia
  • 日本語
  • بالعربية
  • Українська
  • Português (Brasil)