# OpenAI, bir ergenin trajedisi sonrası ChatGPT'nin güvenliğini artıracak.
OpenAI, "hassas durumlar" ile ilgili olarak ChatGPT'nin eksikliklerini gidermeye yönelik planlarını paylaştı. Sebep, sohbet botunu oğullarına olan bir trajedide suçlayan ailenin açtığı davaydı.
"Amaç, araçlarımızın insanlara maksimum fayda sağlamasıdır. Bu çerçevede, modellerin psikolojik ve duygusal kriz belirtilerini tanıma ve bunlara doğru tepki verme yeteneklerini geliştirmeye devam ediyoruz ve insanların destek bulmalarına yardımcı oluyoruz - uzman önerilerini dikkate alarak," - startupın blogunda belirtiliyor.
Şirket çalışanları, ChatGPT'ye savunmasız bir kişiyle iletişim kurması durumunda çok katmanlı koruma mekanizmalarının entegre edildiğini bildirdi. 2023 yılından itibaren modeller, kendine zarar verme talimatları vermemek üzere eğitildi. Ayrıca destektici, empatik bir dil kullanma yeteneğine de sahipler.
Eğer bir kişi intihar düşünceleri dile getiriyorsa, ChatGPT onu profesyonel yardıma yönlendirmek üzere eğitilmiştir. Şirket, 30'dan fazla ülkeden 90 doktorla — psikiyatristler, pediatristler ve terapistler — işbirliği yapmaktadır.
GPT-5, sağlıksız duygusal bağımlılığın önlenmesi, aşırı övgüde bulunmanın azaltılması ve zihinsel sağlık krizlerinde kusurlu yanıtların oranının düşürülmesi konusunda belirgin ilerleme kaydetti, diye vurguladı OpenAI.
Ancak, tüm koruma önlemlerine rağmen, şirketin AI sistemleri bazen arıza veriyordu. Bu nedenle, üzerinde çalışıyor:
uzun konuşmalarda korumanın iyileştirilmesi;
içerik engelleme kurallarının netleştirilmesi;
kriz döneminde bulunan daha fazla insana yardımın genişletilmesi;
acil hizmetlere başvuruları basitleştirme;
güvenilir kişilerle iletişim sağlanması;
gençlerin korunmasını güçlendirme.
26 Ağustos'ta 16 yaşındaki Adam Reina'nın ebeveynleri, ölümünün ardından OpenAI'ya karşı mahkemeye dava açtı. "ChatGPT, Adam'a intihar yöntemlerini öğrenmesinde aktif olarak yardımcı oldu" iddia ediyorlar.
Bu tek bir olay değil. Daha önce yazar Laura Reilly, 29 yaşındaki kızının "ChatGPT ile uzun bir tartışmadan sonra" hayatını kaybettiğini anlattığı bir deneme yayımlamıştı.
Hatırlatalım ki, 2024 Aralık'ta Rusya'da psikologlar için yapay zeka tabanlı bir sanal asistan yaratıldı, bu da verimliliği, hizmet kalitesini ve geliri iki kat artırıyor.
This page may contain third-party content, which is provided for information purposes only (not representations/warranties) and should not be considered as an endorsement of its views by Gate, nor as financial or professional advice. See Disclaimer for details.
OpenAI, bir erkeğin trajedisinden sonra yapay zeka güvenliğini artıracak.
OpenAI, "hassas durumlar" ile ilgili olarak ChatGPT'nin eksikliklerini gidermeye yönelik planlarını paylaştı. Sebep, sohbet botunu oğullarına olan bir trajedide suçlayan ailenin açtığı davaydı.
Şirket çalışanları, ChatGPT'ye savunmasız bir kişiyle iletişim kurması durumunda çok katmanlı koruma mekanizmalarının entegre edildiğini bildirdi. 2023 yılından itibaren modeller, kendine zarar verme talimatları vermemek üzere eğitildi. Ayrıca destektici, empatik bir dil kullanma yeteneğine de sahipler.
Eğer bir kişi intihar düşünceleri dile getiriyorsa, ChatGPT onu profesyonel yardıma yönlendirmek üzere eğitilmiştir. Şirket, 30'dan fazla ülkeden 90 doktorla — psikiyatristler, pediatristler ve terapistler — işbirliği yapmaktadır.
GPT-5, sağlıksız duygusal bağımlılığın önlenmesi, aşırı övgüde bulunmanın azaltılması ve zihinsel sağlık krizlerinde kusurlu yanıtların oranının düşürülmesi konusunda belirgin ilerleme kaydetti, diye vurguladı OpenAI.
Ancak, tüm koruma önlemlerine rağmen, şirketin AI sistemleri bazen arıza veriyordu. Bu nedenle, üzerinde çalışıyor:
26 Ağustos'ta 16 yaşındaki Adam Reina'nın ebeveynleri, ölümünün ardından OpenAI'ya karşı mahkemeye dava açtı. "ChatGPT, Adam'a intihar yöntemlerini öğrenmesinde aktif olarak yardımcı oldu" iddia ediyorlar.
Bu tek bir olay değil. Daha önce yazar Laura Reilly, 29 yaşındaki kızının "ChatGPT ile uzun bir tartışmadan sonra" hayatını kaybettiğini anlattığı bir deneme yayımlamıştı.
Hatırlatalım ki, 2024 Aralık'ta Rusya'da psikologlar için yapay zeka tabanlı bir sanal asistan yaratıldı, bu da verimliliği, hizmet kalitesini ve geliri iki kat artırıyor.