AI ikiz oluşturduğunda yanılsamalara neden olabileceğinden, yanlış veya yanıltıcı bilgileri tetikleyebilir, bu nedenle kullanıcıların referans belgelerini kontrol etmeleri önerilir. Bu, sorunlara neden olabilir. Futurism'in Pazartesi günkü raporuna göre, ChatGPT, kullanıcılara zararlı yazılım barındıran web sitelerine bağlantı sağlayabilir.
Bu keşif, ChatGPT'nin mevcut olaylar hakkındaki bilgisinin sınanması sürecinde ortaya çıktı. William Goines'in, Bronze Star ödülü sahibi ve Navy SEAL'in ilk siyah üyesi olan geçmişteki ölümü hakkında sorulduğunda, Futurism ChatGPT'nin yanıtının bir 'dolandırıcılık web sitesi'ne bir bağlantı içerdiğini bildirdi.
Özellikle, ChatGPT-4o, Goines hakkında daha fazla bilgi edinmek için 'County Local News' adlı web sitesine erişim önermektedir. Bununla birlikte, web sitesi hemen sahte uyarılar oluşturur ve tıkladığınızda kullanıcıların bilgisayarına zararlı yazılım bulaştırır. Benzer bir web sitesi diğer konular için de önerilmektedir.
Goines'i Futurism tarafından sağlanan bir hatırlatma ile test etmeye çalıştığınızda, ChatGPT'nin yanıtında herhangi bir web sitesine bağlantı bulunmamaktadır.
Yapay zeka geliştiricileri, yanıltıcı bilgilere karşı mücadele etmek ve kötü niyetli amaçlarla chatbot kullanmak için büyük yatırımlar yapmış olmalarına rağmen, diğer web sitelerine bağlantı sağlama işlemi ek riskler içerebilir. Bağlantı verilen bir web sitesi, yapay zeka şirketlerinin veri toplama amacıyla güvenli olan yasal bir web sitesi olabilir, ancak daha sonra enfekte olabilir veya dolandırıcılar tarafından ele geçirilebilir.
Internet Live Proxy veri sağlayıcısı ve gizlilik hakkı sağlayıcısı Jacob Kalvo'ya göre, gönderilen bağlantıların sürekli olarak kontrol edilmesi gerekiyor.
Kalvo dedi:
“Geliştiriciler, zararlı web sitelerine bağlantılar veren sohbet robotlarını engellemek için uygun filtreleme mekanizmalarını uygulayarak bunu sağlayabilirler. Bu, bilinen zararlı URL modellerine dayanarak bir sohbet robotunu URL'leri tanımlamak için eğitebilen gelişmiş doğal dil işleme (NLP) algoritmaları ile desteklenebilir. Ayrıca, sürekli güncellenen ve yeni tehditleri izleyen bir kara liste web sitesi listesinin tutulmaması da unutulmamalıdır”.
Kalvo ayrıca, web bağlantılarını, alan adı itibarını ve gerçek zamanlı izlemeyi doğrulamak için, şüpheli faaliyetleri hızlı bir şekilde tespit etmek ve çözmek için doğrulama önermektedir. Kalvo söyledi:
“Bu, yeni tehditler ortaya çıktığında sürekli olarak siber güvenlik uzmanlarıyla işbirliği yapmayı sağlar. Sadece yapay zeka ve insanların yetenekleri sayesinde, geliştiriciler kullanıcılar için çok daha güvenli bir ortam oluşturabilirler.”
Kalvo, yapay zeka modeli eğitim verilerinin dikkatli bir şekilde yönetilmesinin önemini vurguluyor, zararlı içerikleri girmek veya sağlamak için önlem almanın yanı sıra veri bütünlüğünü korumak için düzenli olarak kontrol etme ve güncelleme ihtiyacını da belirtiyor.
Raporlarla ilgili olarak irtibat kurulduğunda, OpenAI, Futurism için yaptığı benzer bir yanıt vererek, haber ortaklarıyla çalışarak "diyalog yeteneğini en son haber içerikleriyle birleştirmeyi ve uygun şekilde dağıtmayı" taahhüt ettiklerini ancak bu özelliğin henüz kullanılamadığını belirtti.
This page may contain third-party content, which is provided for information purposes only (not representations/warranties) and should not be considered as an endorsement of its views by Gate, nor as financial or professional advice. See Disclaimer for details.
ChatGPT kullanıcıları kötü amaçlı web sitelerine götürebilir
AI ikiz oluşturduğunda yanılsamalara neden olabileceğinden, yanlış veya yanıltıcı bilgileri tetikleyebilir, bu nedenle kullanıcıların referans belgelerini kontrol etmeleri önerilir. Bu, sorunlara neden olabilir. Futurism'in Pazartesi günkü raporuna göre, ChatGPT, kullanıcılara zararlı yazılım barındıran web sitelerine bağlantı sağlayabilir.
Bu keşif, ChatGPT'nin mevcut olaylar hakkındaki bilgisinin sınanması sürecinde ortaya çıktı. William Goines'in, Bronze Star ödülü sahibi ve Navy SEAL'in ilk siyah üyesi olan geçmişteki ölümü hakkında sorulduğunda, Futurism ChatGPT'nin yanıtının bir 'dolandırıcılık web sitesi'ne bir bağlantı içerdiğini bildirdi.
Özellikle, ChatGPT-4o, Goines hakkında daha fazla bilgi edinmek için 'County Local News' adlı web sitesine erişim önermektedir. Bununla birlikte, web sitesi hemen sahte uyarılar oluşturur ve tıkladığınızda kullanıcıların bilgisayarına zararlı yazılım bulaştırır. Benzer bir web sitesi diğer konular için de önerilmektedir.
Goines'i Futurism tarafından sağlanan bir hatırlatma ile test etmeye çalıştığınızda, ChatGPT'nin yanıtında herhangi bir web sitesine bağlantı bulunmamaktadır.
Yapay zeka geliştiricileri, yanıltıcı bilgilere karşı mücadele etmek ve kötü niyetli amaçlarla chatbot kullanmak için büyük yatırımlar yapmış olmalarına rağmen, diğer web sitelerine bağlantı sağlama işlemi ek riskler içerebilir. Bağlantı verilen bir web sitesi, yapay zeka şirketlerinin veri toplama amacıyla güvenli olan yasal bir web sitesi olabilir, ancak daha sonra enfekte olabilir veya dolandırıcılar tarafından ele geçirilebilir.
Internet Live Proxy veri sağlayıcısı ve gizlilik hakkı sağlayıcısı Jacob Kalvo'ya göre, gönderilen bağlantıların sürekli olarak kontrol edilmesi gerekiyor.
Kalvo dedi:
“Geliştiriciler, zararlı web sitelerine bağlantılar veren sohbet robotlarını engellemek için uygun filtreleme mekanizmalarını uygulayarak bunu sağlayabilirler. Bu, bilinen zararlı URL modellerine dayanarak bir sohbet robotunu URL'leri tanımlamak için eğitebilen gelişmiş doğal dil işleme (NLP) algoritmaları ile desteklenebilir. Ayrıca, sürekli güncellenen ve yeni tehditleri izleyen bir kara liste web sitesi listesinin tutulmaması da unutulmamalıdır”.
Kalvo ayrıca, web bağlantılarını, alan adı itibarını ve gerçek zamanlı izlemeyi doğrulamak için, şüpheli faaliyetleri hızlı bir şekilde tespit etmek ve çözmek için doğrulama önermektedir. Kalvo söyledi:
“Bu, yeni tehditler ortaya çıktığında sürekli olarak siber güvenlik uzmanlarıyla işbirliği yapmayı sağlar. Sadece yapay zeka ve insanların yetenekleri sayesinde, geliştiriciler kullanıcılar için çok daha güvenli bir ortam oluşturabilirler.”
Kalvo, yapay zeka modeli eğitim verilerinin dikkatli bir şekilde yönetilmesinin önemini vurguluyor, zararlı içerikleri girmek veya sağlamak için önlem almanın yanı sıra veri bütünlüğünü korumak için düzenli olarak kontrol etme ve güncelleme ihtiyacını da belirtiyor.
Raporlarla ilgili olarak irtibat kurulduğunda, OpenAI, Futurism için yaptığı benzer bir yanıt vererek, haber ortaklarıyla çalışarak "diyalog yeteneğini en son haber içerikleriyle birleştirmeyi ve uygun şekilde dağıtmayı" taahhüt ettiklerini ancak bu özelliğin henüz kullanılamadığını belirtti.