根據一份報導，OpenAI 已擱置其先前宣布的情色聊天機器人計劃，顯然是為了避免擴展 ChatGPT 的爭議性內容，該擴展本可能允許成人用戶生成色情內容。
這一轉變由《金融時報》於週四首次報導，原因是內部對性化人工智能對社會影響的擔憂。1 月份，OpenAI 的幸福與人工智能專家委員會成員曾警告，情色聊天功能可能會促使用戶產生不健康的情感依賴，甚至可能使聊天機器人變成一個被一位成員描述為“性感自殺教練”的角色。
OpenAI 拒絕 Decrypt 就情色模式的狀況發表評論，該公司尚未就其命運發表聲明。
據報導，原本名為“Citron 模式”的取消決定，距離 OpenAI 取消 Sora 文本轉視頻模型僅兩天，顯示公司正轉向專注於一個統一的人工智能平台，而非一系列專門工具。
此舉偏離了 CEO Sam Altman 直到十月才提出的方向。當時，Altman 表示，OpenAI 計劃在建立完善的年齡驗證系統後，允許驗證過的成人用戶訪問浪漫和情色內容。
Altman 將此想法描述為一項更廣泛的努力，旨在賦予成人用戶更大的自主權，同時為未成年人設置保護措施。然而，到十二月，該時間表已推遲至 2026 年，因公司持續完善其年齡估算技術。
儘管 OpenAI 可能在真正涉足成人聊天機器人業務之前就退出了，但人工智能模型並不一定需要“情色模式”來讓用戶與之建立聯繫。
去年夏天，當 OpenAI 停用 GPT-4o 時，用戶在社交媒體上湧現呼籲恢復該模型的聲音，因為他們表示與該聊天機器人建立了個人和情感上的關係，反映出關於情色聊天機器人以及人們如何與 AI 互動的更廣泛辯論。
今年六月，東京早稻田大學的研究人員發表的研究指出，75% 的參與者表示曾向 AI 系統尋求情感建議。
同時，AI 開發者正面臨越來越多的審查，因為訴訟正在測試對話式 AI 系統是否負責加強妄想信念或對弱勢用戶造成有害行為。
每天一開始，立即掌握最新頭條新聞，以及原創專題、播客、影片等內容。
你的電子郵件
立即訂閱！
140.47萬 熱度
77.44萬 熱度
27.2萬 熱度
107.29萬 熱度
2915.55萬 熱度
索拉先是，現在又是性感聊天？OpenAI 取消了色情版 ChatGPT 模式
簡要
根據一份報導，OpenAI 已擱置其先前宣布的情色聊天機器人計劃，顯然是為了避免擴展 ChatGPT 的爭議性內容，該擴展本可能允許成人用戶生成色情內容。
這一轉變由《金融時報》於週四首次報導，原因是內部對性化人工智能對社會影響的擔憂。1 月份，OpenAI 的幸福與人工智能專家委員會成員曾警告，情色聊天功能可能會促使用戶產生不健康的情感依賴，甚至可能使聊天機器人變成一個被一位成員描述為“性感自殺教練”的角色。
OpenAI 拒絕 Decrypt 就情色模式的狀況發表評論，該公司尚未就其命運發表聲明。
據報導，原本名為“Citron 模式”的取消決定，距離 OpenAI 取消 Sora 文本轉視頻模型僅兩天，顯示公司正轉向專注於一個統一的人工智能平台，而非一系列專門工具。
此舉偏離了 CEO Sam Altman 直到十月才提出的方向。當時，Altman 表示，OpenAI 計劃在建立完善的年齡驗證系統後，允許驗證過的成人用戶訪問浪漫和情色內容。
Altman 將此想法描述為一項更廣泛的努力，旨在賦予成人用戶更大的自主權，同時為未成年人設置保護措施。然而，到十二月，該時間表已推遲至 2026 年，因公司持續完善其年齡估算技術。
儘管 OpenAI 可能在真正涉足成人聊天機器人業務之前就退出了，但人工智能模型並不一定需要“情色模式”來讓用戶與之建立聯繫。
去年夏天，當 OpenAI 停用 GPT-4o 時，用戶在社交媒體上湧現呼籲恢復該模型的聲音，因為他們表示與該聊天機器人建立了個人和情感上的關係，反映出關於情色聊天機器人以及人們如何與 AI 互動的更廣泛辯論。
今年六月，東京早稻田大學的研究人員發表的研究指出，75% 的參與者表示曾向 AI 系統尋求情感建議。
同時，AI 開發者正面臨越來越多的審查，因為訴訟正在測試對話式 AI 系統是否負責加強妄想信念或對弱勢用戶造成有害行為。
每日簡報新聞稿
每天一開始，立即掌握最新頭條新聞，以及原創專題、播客、影片等內容。
你的電子郵件
立即訂閱！
立即訂閱！