# OpenAI sẽ tăng cường an ninh cho ChatGPT sau thảm kịch với thanh thiếu niên
Công ty OpenAI đã chia sẻ kế hoạch để khắc phục những thiếu sót của ChatGPT khi làm việc với "các tình huống nhạy cảm". Nguyên nhân là một vụ kiện từ gia đình, người đã cáo buộc chatbot gây ra thảm kịch xảy ra với con trai của họ.
«Mục tiêu là làm cho các công cụ của chúng tôi hữu ích nhất có thể cho mọi người. Trong khuôn khổ này, chúng tôi tiếp tục cải thiện khả năng của các mô hình nhận diện và phản ứng đúng với những dấu hiệu khủng hoảng tâm lý và cảm xúc, và giúp mọi người tìm kiếm sự hỗ trợ — với sự tham khảo từ các chuyên gia», — được nêu trong blog của startup.
Nhân viên công ty cho biết rằng ChatGPT được tích hợp một hệ thống các cơ chế bảo vệ nhiều lớp trong trường hợp giao tiếp với một người dễ bị tổn thương. Từ năm 2023, các mô hình đã được đào tạo không cung cấp hướng dẫn về việc gây hại cho bản thân. Ngoài ra, chúng còn có khả năng chuyển sang ngôn ngữ hỗ trợ, đồng cảm.
Nếu một người có những suy nghĩ tự tử, ChatGPT được đào tạo để hướng dẫn họ đến sự giúp đỡ chuyên nghiệp. Công ty hợp tác với 90 bác sĩ từ hơn 30 quốc gia — các bác sĩ tâm thần, bác sĩ nhi khoa và bác sĩ trị liệu.
GPT-5 đã cho thấy sự tiến bộ đáng kể trong việc ngăn chặn sự phụ thuộc cảm xúc không lành mạnh, giảm thiểu sự nịnh bợ và giảm tỷ lệ câu trả lời không hoàn hảo trong các cuộc khủng hoảng sức khỏe tâm thần, OpenAI nhấn mạnh.
Tuy nhiên, bất chấp tất cả các biện pháp bảo vệ, hệ thống AI của công ty đôi khi đã gặp sự cố. Do đó, công ty đang làm việc trên:
cải thiện bảo mật trong các cuộc trò chuyện dài;
làm rõ quy định về việc chặn nội dung;
mở rộng hỗ trợ cho nhiều người hơn đang trong giai đoạn khủng hoảng;
đơn giản hóa các cuộc gọi đến dịch vụ khẩn cấp;
đảm bảo liên lạc với các liên hệ đáng tin cậy;
tăng cường bảo vệ thanh thiếu niên.
Vào ngày 26 tháng 8, cha mẹ của Adam Reina, 16 tuổi, đã đệ đơn kiện OpenAI sau cái chết của cậu. Họ tuyên bố rằng "ChatGPT đã tích cực giúp Adam tìm hiểu các phương pháp tự sát."
Đây không phải là trường hợp duy nhất. Trước đó, nhà văn Laura Reilly đã công bố một bài tiểu luận, trong đó bà kể rằng con gái 29 tuổi của bà đã rời bỏ cuộc sống "sau khi đã thảo luận điều này với ChatGPT".
Nhắc lại, vào tháng 12 năm 2024, tại Nga đã tạo ra một trợ lý ảo dựa trên AI cho các nhà tâm lý học, giúp tăng lên gấp đôi năng suất, chất lượng dịch vụ và doanh thu.
Trang này có thể chứa nội dung của bên thứ ba, được cung cấp chỉ nhằm mục đích thông tin (không phải là tuyên bố/bảo đảm) và không được coi là sự chứng thực cho quan điểm của Gate hoặc là lời khuyên về tài chính hoặc chuyên môn. Xem Tuyên bố từ chối trách nhiệm để biết chi tiết.
OpenAI sẽ tăng cường bảo mật AI sau thảm kịch với thiếu niên
Công ty OpenAI đã chia sẻ kế hoạch để khắc phục những thiếu sót của ChatGPT khi làm việc với "các tình huống nhạy cảm". Nguyên nhân là một vụ kiện từ gia đình, người đã cáo buộc chatbot gây ra thảm kịch xảy ra với con trai của họ.
Nhân viên công ty cho biết rằng ChatGPT được tích hợp một hệ thống các cơ chế bảo vệ nhiều lớp trong trường hợp giao tiếp với một người dễ bị tổn thương. Từ năm 2023, các mô hình đã được đào tạo không cung cấp hướng dẫn về việc gây hại cho bản thân. Ngoài ra, chúng còn có khả năng chuyển sang ngôn ngữ hỗ trợ, đồng cảm.
Nếu một người có những suy nghĩ tự tử, ChatGPT được đào tạo để hướng dẫn họ đến sự giúp đỡ chuyên nghiệp. Công ty hợp tác với 90 bác sĩ từ hơn 30 quốc gia — các bác sĩ tâm thần, bác sĩ nhi khoa và bác sĩ trị liệu.
GPT-5 đã cho thấy sự tiến bộ đáng kể trong việc ngăn chặn sự phụ thuộc cảm xúc không lành mạnh, giảm thiểu sự nịnh bợ và giảm tỷ lệ câu trả lời không hoàn hảo trong các cuộc khủng hoảng sức khỏe tâm thần, OpenAI nhấn mạnh.
Tuy nhiên, bất chấp tất cả các biện pháp bảo vệ, hệ thống AI của công ty đôi khi đã gặp sự cố. Do đó, công ty đang làm việc trên:
Vào ngày 26 tháng 8, cha mẹ của Adam Reina, 16 tuổi, đã đệ đơn kiện OpenAI sau cái chết của cậu. Họ tuyên bố rằng "ChatGPT đã tích cực giúp Adam tìm hiểu các phương pháp tự sát."
Đây không phải là trường hợp duy nhất. Trước đó, nhà văn Laura Reilly đã công bố một bài tiểu luận, trong đó bà kể rằng con gái 29 tuổi của bà đã rời bỏ cuộc sống "sau khi đã thảo luận điều này với ChatGPT".
Nhắc lại, vào tháng 12 năm 2024, tại Nga đã tạo ra một trợ lý ảo dựa trên AI cho các nhà tâm lý học, giúp tăng lên gấp đôi năng suất, chất lượng dịch vụ và doanh thu.