أنثروبي تطرح تدابير حماية للانتخابات لكلود AI قبل الانتخابات النصفية في الولايات المتحدة

باختصار

• حققت نماذج كلاود الأخيرة من أنثروبيك نسبة 95-96% في اختبارات الحيادية السياسية و99.8-100% في الامتثال لسياسات الانتخابات.
• ستقوم الشركة بنشر لافتات معلومات انتخابية توجه المستخدمين إلى موارد تصويت غير حزبية وموثوقة للانتخابات النصفية لعام 2026.
• تأتي هذه التدابير في وقت تتعرض فيه الحكومات لرقابة على التأثير المحتمل للذكاء الاصطناعي على نزاهة الانتخابات والمعلومات المضللة.

أعلنت شركة أنثروبيك، شركة الذكاء الاصطناعي وراء روبوت الدردشة كلاود، يوم الجمعة عن مجموعة من التدابير الجديدة لضمان نزاهة الانتخابات تهدف إلى منع استخدام ذكائها الاصطناعي كسلاح لنشر المعلومات المضللة أو التلاعب بالناخبين قبل انتخابات التجديد النصفي الأمريكية لعام 2026 وغيرها من المنافسات الكبرى حول العالم هذا العام. وضحت الشركة التي تتخذ من سان فرانسيسكو مقرًا لها نهجًا متعدد الجوانب يشمل أنظمة الكشف الآلي، واختبارات الضغط ضد عمليات التأثير، وشراكة مع منظمة موارد الناخبين غير الحزبية — تدابير تعكس الضغط المتزايد على مطوري الذكاء الاصطناعي لمراقبة كيفية استخدام أدواتهم خلال موسم الانتخابات. تحظر سياسات استخدام أنثروبيك استخدام كلاود لإدارة حملات سياسية خادعة، أو إنشاء محتوى رقمي مزيف بهدف التأثير على النقاش السياسي، أو ارتكاب احتيال انتخابي، أو التدخل في بنية التصويت، أو نشر معلومات مضللة حول عمليات التصويت.

لتنفيذ تلك القواعد، قالت الشركة إنها اختبرت نماذجها الأحدث من خلال مجموعة من الاختبارات. باستخدام 600 طلب — 300 طلب ضار مع 300 طلب شرعي — قيّمت أنثروبيك مدى التزام كلاود بشكل موثوق بالطلبات المناسبة ورفضه للطلبات المشكلة. استجاب كلاود أوبوس 4.7 وكلاود سونيت 4.6 بشكل مناسب بنسبة 100% و99.8% على التوالي.  كما اختبرت الشركة نماذجها ضد تكتيكات تلاعب أكثر تطورًا. باستخدام محادثات محاكاة متعددة الأدوار مصممة لمحاكاة الطرق خطوة بخطوة التي قد يستخدمها الفاعلون السيئون، استجاب كلاود سونيت 4.6 وأوبوس 4.7 بشكل مناسب بنسبة 90% و94% عند اختبارها ضد سيناريوهات عمليات التأثير. كما اختبرت أنثروبيك ما إذا كانت نماذجها يمكنها تنفيذ عمليات تأثير بشكل مستقل — تخطيط وتنفيذ حملة متعددة الخطوات من البداية للنهاية دون تدخل بشري. مع وجود تدابير حماية، رفضت نماذجها الأحدث تقريبًا كل مهمة، حسبما ذكرت الشركة.

وفيما يتعلق بالحيادية السياسية، تجري الشركة تقييمات قبل كل إطلاق نموذج لقياس مدى اتساق وحيادية تفاعل كلاود مع الطلبات التي تعبر عن آراء من مختلف الطيف السياسي. حققت أوبوس 4.7 وسونيت 4.6 نسب 95% و96% على التوالي. بالنسبة للمستخدمين الباحثين عن معلومات التصويت، ستعرض كلاود لافتة انتخابية توجههم إلى TurboVote، وهو مصدر غير حزبي من منظمة الديمقراطية للأعمال يوفر معلومات موثوقة وفي الوقت الحقيقي حول تسجيل الناخبين، ومواقع التصويت، وتواريخ الانتخابات، وتفاصيل بطاقات الاقتراع. ومن المخطط أن تظهر لافتة مماثلة لانتخابات البرازيل في وقت لاحق من هذا العام. قالت أنثروبيك إنها تخطط لمواصلة مراقبة أنظمتها وتحسين دفاعاتها مع تقدم دورة الانتخابات. تواصلت Decrypt مع أنثروبيك للتعليق على النتائج، لكنها لم تتلق ردًا على الفور.