تصميم 'مفتاح القدرة' من Anthropic مثير للاهتمام، حيث يتحكم بشكل معياري في المعرفة ذات الحدين، وهو أكثر مقاومة لهجمات الضبط الدقيق مقارنة بالنسيان اللاحق، مما يضيف طبقة إضافية من الأمان للذكاء الاصطناعي.

أفادت CoinWorld أن شركة Anthropic وAE Studio نشرتا بحثًا جديدًا يحاول تركيب مفتاح إيقاف لـ«المعرفة مزدوجة الاستخدام» للذكاء الاصطناعي. تشير المعرفة مزدوجة الاستخدام إلى القدرات التي يمكن استخدامها في الأبحاث المشروعة وكذلك إساءة استخدامها، مثل علم الفيروسات والأمن السيبراني والفيزياء النووية. اختبر فريق البحث 4 مجالات مزدوجة الاستخدام في تجارب على بيانات حقيقية: علم الفيروسات، والأمن السيبراني، والفيزياء النووية، ولغات البرمجة النادرة. يمكن لهذه الوحدات الأربع تشكيل 16 تكوينًا للقدرات. مقارنةً بتدريب نماذج منفصلة لكل تكوين، تتطلب هذه الطريقة تدريبًا واحدًا فقط. أظهرت النتائج أن Gram يحتفظ بالقدرات العامة مع إزالة القدرات المستهدفة بشكل جيد، ويقاوم التعديلات الدقيقة الخبيثة الصغيرة النطاق بقوة أكبر من طريقة «النسيان» بعد التدريب.