Meta, yakın zamanda CrushAI adında bir uygulama geliştiren Hong Kong merkezli Joy Timeline HK Ltd. adlı bir şirkete dava açtı. Bu uygulama, izinsiz cinsel görseller üreten yapay zeka kullanımıyla önemli tartışmalara yol açtı. Olay, Meta'nın sosyal platformlarında, Facebook ve Instagram reklamları aracılığıyla tanıtım yapmasıyla gerçekleşti ve bu reklamlar genellikle Meta'nın reklam politikalarıyla uyumsuz olduğu için sık sık kaldırıldı.

Meta, Joy Timeline'ın reklam denetim sistemini birkaç kez aşmaya çalıştığını belirtti ve bu durum sonunda Meta'nın, şirketin platformunda reklam faaliyetlerini kalıcı olarak yasaklamak için yasal işlem başlatmasına neden oldu. Meta, bu suistimallere karşı yasalar çerçevesinde ciddi bir tutum sergilediğini vurguladı ve platformun güvenliğini korumak için yasal yollarla mücadeleye devam edeceğini açıkladı. "Bu dava, platform suistimallerine karşı ciddiyetimizi ve topluluğumuzu koruma kararlılığımızı yansıtıyor."

CrushAI ve benzeri "nudify" uygulamaları, bu uygulamaların genellikle kadınlar ve ünlüler üzerinde dijital çıplaklık oluşturması nedeniyle birçok kullanıcıyı endişelendirmektedir. Bu tür davranışlar, çevrimiçi tacizi, şantajı ve çocuk istismarını körüklemekle eleştirilmektedir. Son zamanlarda, CBS News'un yaptığı bir araştırma, Meta platformunda yüzlerce benzer reklamın bulunduğunu ortaya çıkardı; bunlardan bazıları kaldırma çabalarına rağmen hala görünür durumda.

Buna karşılık, Meta, çıplak içeriği açıkça göstermese bile zararlı reklamları tespit etmek ve engellemek amacıyla yeni teknolojiler geliştirdi ve uygulama araçlarını güçlendirdi. Aynı zamanda Meta, diğer teknoloji şirketleriyle tehdit istihbaratını da paylaşıyor.

Ayrıca, Meta, bu tür reklamları işleten dört işbirliği ağıni başarıyla ortadan kaldırdığını bildirdi. Meta, yeni geçiş teknikleriyle başa çıkmak için iç uzmanlar ve dış ortaklarla işbirliği yapmaya devam ediyor.

Yasama organları ve araştırmacıların baskısının giderek arttığı bir ortamda, Meta, kullanıcı güvenliğini korumak için istismarcı AI uygulamalarının yayılmasını engellemek adına dikkatli kalacağını ve gerekli tüm önlemleri alacağını belirtti.