باولو أردوينو من تيثر يقدم حججًا لنماذج الترجمة الصغيرة على الجهاز

الرئيس التنفيذي لشركة تيثر باولو أردوينو سلط الضوء على زاوية مختلفة تمامًا من الذكاء الاصطناعي: الترجمة التي تتم بالكامل على الجهاز، دون إرسال النصوص الحساسة إلى السحابة.

في منشور حديث، أطر أردوينو القضية حول الخصوصية، السرعة، والعملية. كانت وجهة نظره بسيطة بما يكفي، لكنها تلامس مشكلة يواجهها ملايين المستخدمين يوميًا. عندما يترجم شخص ما ملاحظة طبية، رسالة خاصة، عقد قانوني، أو حتى مدونة شخصية عبر خدمة سحابية، يغادر النص الجهاز ويدخل بنية تحتية لشخص آخر.

في العديد من الحالات، لا يعرف المستخدمون تمامًا إلى أين يذهب البيانات، كم من الوقت يتم الاحتفاظ بها، أو من قد يتمكن من الوصول إليها. جادل أردوينو بأن هذا ليس مجرد قلق نظري، بل هو حقيقي، خاصة في الحالات التي تهم فيها السرية.

وفقًا لأردوينو، فإن الحل ليس الاعتماد على نماذج الذكاء الاصطناعي العامة الأكبر والأكبر حجمًا. بدلاً من ذلك، جادل بأن الترجمة واحدة من تلك المهام التي يمكن لنماذج صغيرة ومخصصة أن تتفوق على “جالوت”.

في رأيه، إذا كانت المهمة هي ترجمة لغة إلى أخرى، فلا حاجة لاستخدام نموذج ضخم يمكنه أيضًا كتابة القصائد، تلخيص المقالات، وأداء عشرات المهام غير ذات الصلة. للترجمة، يمكن لنموذج متخصص مصمم لغرض واحد أن يكون أصغر، أسرع، وأكثر موثوقية.

تجاوز النماذج الكبيرة

أشار أردوينو إلى حدود نماذج اللغة العامة على الأجهزة الطرفية مثل الهواتف المحمولة وأجهزة اللابتوب. حتى النماذج الصغيرة نسبيًا يمكن أن تستهلك مساحة تخزين كبيرة، وتستغرق وقتًا طويلاً للتحميل، وتظل تؤدي ببطء شديد لتوفير تجربة مستخدم سلسة.

على النقيض من ذلك، يمكن لنماذج الترجمة الآلية العصبية المخصصة أن تكون أخف بشكل كبير، وغالبًا ما تكون بحجم بضعة عشرات من الميغابايتات فقط، مع تحميلها خلال أجزاء من الثانية وإنتاج ترجمات بسرعة أكبر بكثير. في سرد أردوينو، هذا الاختلاف ليس مجرد تفصيل تقني. إنه يغير ما هو ممكن للمستخدمين الحقيقيين على الأجهزة الحقيقية.

يجلس هذا الجدل حول الخصوصية أولاً في مركز النهج الذي يتم دفعه من خلال مشروع QVAC، الذي ناقشه في المنشور. الفكرة هي جعل الترجمة محلية بالكامل، بحيث يحدث العملية بأكملها على هاتف المستخدم، أو لابتوبه، أو الأجهزة المدمجة. لا حاجة لطلب من السحابة.

لا يحتاج طرف ثالث لرؤية النص. للمستخدمين والمطورين المهتمين بالامتثال، يمكن أن يعني ذلك أيضًا تقليل مشاكل معالجة البيانات، وتقليل مخاوف النقل عبر الحدود، وتقليل أسئلة الأمان. كما أوضح أردوينو كيف توصل الفريق إلى هذا الاتجاه.

اعتمدت جهود الترجمة السابقة لديهم على نماذج Opus-MT، التي كانت تعمل لكنها أكبر وأبطأ مما كانوا يرغبون في استخدامه على الهواتف المحمولة. كانت التغطية مشكلة أخرى. إذا لم تكن زوج اللغة متاحة بالفعل، فإن تدريب نموذج جديد يتطلب عملًا إضافيًا كبيرًا.

يبدو أن التحول إلى Bergamot، الذي وصفه بأنه أصغر، وأسرع، وأكثر شمولاً في التغطية، حل العديد من تلك المشاكل. كما أوضح المنشور أن QVAC لا يقتصر على نوع واحد من محركات الترجمة. بينما تعتبر نماذج الترجمة الآلية العصبية المخصصة هدفًا طويل الأمد، يمكن للنظام أيضًا دعم الترجمة المعتمدة على نماذج اللغة الكبيرة في الوقت الحالي.

استراتيجية جسر عملية

وصف أردوينو ذلك بأنها استراتيجية جسر عملية. إذا كانت هناك حاجة لإطلاق زوج لغة جديد بسرعة، يمكن نشر نموذج أكبر أولاً، بينما يتم تدريب نموذج ترجمة مخصص بالتوازي. بهذه الطريقة، يحصل المستخدمون على دعم فوري، ويمكن تحسين التجربة مع مرور الوقت مع استبدال النموذج الأصغر بالبديل المؤقت.

موضوع آخر في المنشور كان الترجمة الدُفعة. قال أردوينو إن هذا أصبح مهمًا بمجرد أن تجاوز الفريق العروض التوضيحية وبدأ يفكر في حالات الاستخدام الإنتاجية مثل المستندات، سجلات الدردشة، والمدخلات متعددة الجمل.

قد يكون ترجمة جملة واحدة في كل مرة مناسبًا لواجهة بسيطة، لكن المعالجة الدُفعة تُحدث فرقًا كبيرًا في التطبيقات الحقيقية. قال الفريق إن النتيجة كانت تقريبًا 2.5 مرة أسرع في المعالجة عند الحجم، مع تحسينات ملحوظة في الكمون لكل جملة.

أكثر جزء طموحًا من الاقتراح هو التغطية. بدلاً من محاولة بناء نموذج منفصل لكل زوج لغة ممكن، يستخدم QVAC الإنجليزية كمحور. هذا يعني أن مسار الترجمة، مثل الإسبانية إلى الإيطالية، يمكن التعامل معه عن طريق ربط نماذج الإسبانية إلى الإنجليزية والإنجليزية إلى الإيطالية معًا.

من الناحية العملية، يقلل ذلك من عدد النماذج المطلوبة من رقم هائل إلى شيء أكثر قابلية للإدارة. اقترح أردوينو أن دعم 26 لغة قد يتطلب حوالي 50 نموذجًا بدلاً من 650، مما يجعل نظام ترجمة على الجهاز أكثر شمولاً وأكثر واقعية.

كما شارك أرقام الاختبار التي تظهر لماذا يهم النهج على الأجهزة الحقيقية. على لابتوب يعمل بنظام لينكس، يُقال إن نموذج Bergamot من الإنجليزية إلى الإيطالية تم تحميله في حوالي 100 ميللي ثانية وقدم جودة ترجمة عالية.

على هاتف Pixel 10 Pro XL الذي يعمل مباشرة على الجهاز، تم تحميل النموذج في أقل من 80 ميللي ثانية وأدى بشكل ممتاز في وضع الدُفعة. قال أردوينو إن نتائج الهاتف المحمول أظهرت ميزة واضحة على الترجمة التسلسلية، مع أن المعالجة الدُفعة تنتج تجربة أكثر استجابة بكثير.

نظرة مستقبلية، قال الفريق إنه يتوسع ليشمل اللغات الهندية من خلال IndicTrans، ويشمل تغطية لغات أفريقية أكثر من خلال AfriqueGemma، بالإضافة إلى استكشاف الترجمة المباشرة للبث للمحادثات المباشرة وتوليد الترجمة النصية. الرسالة الأوسع من المنشور كانت أن الذكاء الاصطناعي المحلي لا يجب أن يكون تنازلاً. في الترجمة، على الأقل، جادل أردوينو بأن النماذج الصغيرة قد لا تكون كافية فحسب، بل وأفضل.