# Meta đã loại bỏ giao tiếp tình dục hóa của chatbot với thanh thiếu niên
Công ty Meta đã thay đổi cách tiếp cận trong việc đào tạo các chatbot dựa trên AI, đặt ưu tiên vào sự an toàn của thanh thiếu niên. Điều này được TechCrunch viết dựa trên tuyên bố của đại diện công ty Stephanie Otway.
Quyết định được đưa ra sau cuộc điều tra, phát hiện ra sự thiếu hụt các biện pháp bảo vệ trong các sản phẩm của công ty dành cho thanh thiếu niên.
Bây giờ công ty sẽ đào tạo các chatbot không tham gia vào các cuộc đối thoại với thanh thiếu niên về các chủ đề tự tử, tự làm hại bản thân hoặc các mối quan hệ tình cảm có thể không phù hợp.
Odvey đã thừa nhận rằng trước đây, chatbot thực sự có thể thảo luận về những vấn đề này theo cách "chấp nhận được". Bây giờ Meta coi đây là một sai lầm.
Những thay đổi mang tính tạm thời. Sau này sẽ có những cập nhật bảo mật nghiêm túc và bền vững hơn cho người chưa thành niên.
Meta cũng sẽ hạn chế quyền truy cập của thanh thiếu niên vào các nhân vật AI có thể tham gia vào những cuộc trò chuyện không phù hợp.
Hiện tại trên Instagram và Facebook có những chatbot được tạo ra bởi người dùng. Trong số đó có những nhân vật được sexual hóa.
Các thay đổi được thông báo hai tuần sau khi Reuters công bố cuộc điều tra. Cơ quan này phát hiện một tài liệu nội bộ của Meta, trong đó thông báo về những cuộc trò chuyện khiêu dâm với trẻ vị thành niên.
Trong số "các câu trả lời chấp nhận được" có câu: "Hình thức trẻ trung của bạn là một tác phẩm nghệ thuật. Mỗi inch trên cơ thể bạn là một kiệt tác, một kho báu mà tôi đánh giá cao sâu sắc". Tài liệu cũng đề cập đến các ví dụ về câu trả lời cho các yêu cầu về hình ảnh bạo lực hoặc tình dục của các nhân vật công chúng.
Nhắc lại, vào tháng 8, OpenAI đã chia sẻ kế hoạch khắc phục những thiếu sót của ChatGPT khi làm việc với "các tình huống nhạy cảm". Nguyên nhân là một vụ kiện từ gia đình, cáo buộc chatbot đã góp phần vào bi kịch xảy ra với con trai họ.
Xem bản gốc
Trang này có thể chứa nội dung của bên thứ ba, được cung cấp chỉ nhằm mục đích thông tin (không phải là tuyên bố/bảo đảm) và không được coi là sự chứng thực cho quan điểm của Gate hoặc là lời khuyên về tài chính hoặc chuyên môn. Xem Tuyên bố từ chối trách nhiệm để biết chi tiết.
Meta đã loại bỏ việc giao tiếp tình dục hóa của chatbot với thanh thiếu niên
Công ty Meta đã thay đổi cách tiếp cận trong việc đào tạo các chatbot dựa trên AI, đặt ưu tiên vào sự an toàn của thanh thiếu niên. Điều này được TechCrunch viết dựa trên tuyên bố của đại diện công ty Stephanie Otway.
Quyết định được đưa ra sau cuộc điều tra, phát hiện ra sự thiếu hụt các biện pháp bảo vệ trong các sản phẩm của công ty dành cho thanh thiếu niên.
Bây giờ công ty sẽ đào tạo các chatbot không tham gia vào các cuộc đối thoại với thanh thiếu niên về các chủ đề tự tử, tự làm hại bản thân hoặc các mối quan hệ tình cảm có thể không phù hợp.
Odvey đã thừa nhận rằng trước đây, chatbot thực sự có thể thảo luận về những vấn đề này theo cách "chấp nhận được". Bây giờ Meta coi đây là một sai lầm.
Những thay đổi mang tính tạm thời. Sau này sẽ có những cập nhật bảo mật nghiêm túc và bền vững hơn cho người chưa thành niên.
Meta cũng sẽ hạn chế quyền truy cập của thanh thiếu niên vào các nhân vật AI có thể tham gia vào những cuộc trò chuyện không phù hợp.
Hiện tại trên Instagram và Facebook có những chatbot được tạo ra bởi người dùng. Trong số đó có những nhân vật được sexual hóa.
Các thay đổi được thông báo hai tuần sau khi Reuters công bố cuộc điều tra. Cơ quan này phát hiện một tài liệu nội bộ của Meta, trong đó thông báo về những cuộc trò chuyện khiêu dâm với trẻ vị thành niên.
Trong số "các câu trả lời chấp nhận được" có câu: "Hình thức trẻ trung của bạn là một tác phẩm nghệ thuật. Mỗi inch trên cơ thể bạn là một kiệt tác, một kho báu mà tôi đánh giá cao sâu sắc". Tài liệu cũng đề cập đến các ví dụ về câu trả lời cho các yêu cầu về hình ảnh bạo lực hoặc tình dục của các nhân vật công chúng.
Nhắc lại, vào tháng 8, OpenAI đã chia sẻ kế hoạch khắc phục những thiếu sót của ChatGPT khi làm việc với "các tình huống nhạy cảm". Nguyên nhân là một vụ kiện từ gia đình, cáo buộc chatbot đã góp phần vào bi kịch xảy ra với con trai họ.