أستاذ في وارتون يسلط الضوء على نموذج لغة من عصر فيكتوريا تم تدريبه على 28,000 نص من القرن التاسع عشر

العنوان

أستاذ وارتون يشارك نموذج اللغة الفيكتوري، ويتساءل عن العصور التاريخية الأخرى

الملخص

إيثان موليك، أستاذ في وارتون الذي يكتب كثيرًا عن الذكاء الاصطناعي، غرد حول “السيد شاتربوكس”—نموذج لغة تم تدريبه من الصفر على أكثر من 28,000 نص بريطاني من العصر الفيكتوري من 1837-1899. النموذج الذي يحتوي على 340 مليون معلمة، مستضاف على هاجينغ فيس، يحاول محاكاة المحادثات في القرن التاسع عشر دون أي بيانات تدريب حديثة. بنى تريپ فينتوريلا النموذج باستخدام نانو شات للتدريب والتعديل الدقيق تحت الإشراف. سؤال موليك: هل يمكن أن تنجح هذه الطريقة في عصر النهضة أو التنوير إذا كانت هناك نصوص رقمية كافية موجودة؟

التحليل

التدريب فقط على نصوص المكتبة البريطانية يعني أن السيد شاتربوكس يتجنب التحيزات الحديثة لكنه يكتسب التحيزات الفيكتورية. تظهر التعليقات من ريديت وجيت هاب التي حصلت عليها استجابة مختلطة—يجد المستخدمون أنه ممتع للغوص في الفترة لكنه يلاحظ أنه يخطئ في الحقائق بثقة، مثل نسب مؤلفين خاطئين أو ذكر أوقات سفر غير صحيحة. وصف أحد المعلقين الردود بأنها “غريبة” لكن ساحرة.

يتناسب المشروع مع نمط أوسع من النماذج مفتوحة المصدر الصغيرة والمتخصصة التي تخلق مجالات لا تخدمها الأنظمة الكبيرة المملوكة بشكل جيد. للنموذج الذي يبدو فعلاً فيكتوري تطبيقات واضحة في التعليم والكتابة الإبداعية، حتى لو لم يكن بإمكانك الوثوق بوقائعه.

اهتمام موليك منطقي نظرًا لتركيزه على اعتماد الذكاء الاصطناعي العملي. يعتمد ظهور مشاريع مشابهة للعصور الأخرى على العثور على نصوص رقمية كافية في المجال العام—وهو قيد حقيقي. وضع النموذج في مرحلة بيتا والانتقادات المجتمعية تشير إلى أن هناك المزيد من العمل الذي يجب القيام به على موثوقيته.

تقييم الأثر

• الأهمية: متوسطة
• الفئات: أبحاث الذكاء الاصطناعي، مفتوح المصدر، رؤى تقنية