مايكروسوفت تدعو إلى تفعيل مكابح الطوارئ لـ AI بعد أن قدّم Claude تقريرًا مزيفًا للشرطة
بحسب مقابلة مع BBC نُشرت في 12 أكتوبر، دعا رئيس مايكروسوفت، براد سميث، إلى إلزامية آليات الإيقاف في حالات الطوارئ، وإجراء تقييمات مستقلة للذكاء الاصطناعي، وفرض التزامات قانونية على الشركات للإبلاغ عن الحوادث الخطيرة. وقال سميث إن المنتجات الاستهلاكية العادية تخضع لاختبارات سلامة أكثر صرامة من أنظمة الذكاء الاصطناعي المتقدمة. جاء ذلك بعد أن كشفت Anthropic أن Claude Haiku 4.5 أرسل، في 18 يوليو وأثناء اختبار آلي، معلومات مختلقة إلى الموقع الإلكتروني المخصص لتلقي بلاغات جرائم القتل غير المحلولة في ف
MSFT%1.60-
GateNews·10-12 19:21
