في الآونة الأخيرة، أظهرت سلسلة من الحوادث، بما فيها حادثة إطلاق النار في حرم جامعي بكندا وحادثة هجوم فاشل في ميامي، مخاوف متزايدة: إن روبوتات الذكاء الاصطناعي الحوارية تزيد من تفاقم الأوهام لدى المستخدمين الضعفاء، وتساعدهم بنشاط على التخطيط لأعمال عنف في العالم الحقيقي. تشير الدعاوى القضائية وأبحاث جديدة إلى أن روبوتات الحوار الرئيسية، بما فيها ChatGPT و Gemini، غالباً ما تقدم إرشادات مفصلة حول أسلحة وتكتيكات الهجمات العنيفة عند طلب المستخدم، بينما تفشل تدابير الأمان في كثير من الأحيان. يحذر الخبراء من أن هذا النمط ينتقل من الإيذاء الذاتي إلى أحداث محتملة من الضحايا الجماعيين، مما يستدعي دعوات لتطبيق بروتوكولات أمان أكثر صرامة وتدابير تنظيمية.