عنوان المقال الأصلي: أطروحة Crypto AI لدينا (الجزء الثاني): التكوين المركزي هو الملك
الكاتب الأصلي: تينغ يان، باحث في التشفير
النص الأصلي: شنجين تكفلو
صباح الخير! أخيرًا وصل.
محتوى ورقتنا كان غنيًا جدًا، لذا قررت تقسيمه إلى عدة أجزاء لجعله أكثر سهولة للجميع لفهمه (وفي نفس الوقت تجنب تجاوز حدود حجم مزودي خدمة البريد الإلكتروني). سأقوم بمشاركتها تدريجياً خلال الشهر القادم. الآن، دعونا نبدأ!
لقد كان هناك خسارة كبيرة لا أستطيع نسيانها.
هذا الأمر ما زال يؤرقني حتى الآن، لأنه كان فرصة واضحة يمكن لأي شخص يتابع السوق أن يراها، ولكنني فوتتها، ولم أستثمر قرشا واحدا.
لا ، هذا ليس القاتل التالي لـ Solana ، ولا هو عملة ميم كوين لكلب يرتدي قبعة مضحكة.
إنها......NVIDIA.
أداء سهم NVDA منذ بداية العام حتى الآن. المصدر: Google
في غضون عام واحد فقط، ارتفعت القيمة السوقية لشركة NVIDIA من 1 تريليون دولار إلى 3 تريليون دولار، حيث تضاعف سعر السهم ثلاث مرات، وحتى تفوق أداء بيتكوين في نفس الفترة.
بالطبع، يتم دفع جزء من ذلك بواسطة انتشار الذكاء الاصطناعي. ولكن الأهم من ذلك، هو أن هذا الارتفاع له أساس واقعي قوي. بلغت إيرادات NVIDIA في السنة المالية 2024 60 مليار دولار، بزيادة قدرها 126٪ عن عام 2023. وراء هذا الارتفاع المدهش، تتسابق شركات التكنولوجيا العملاقة في جميع أنحاء العالم لشراء وحدات معالجة الرسومات (GPU) للحصول على الأفضلية في سباق تسلح الذكاء الاصطناعي العام (AGI).
لماذا أفتقد؟
خلال العامين الماضيين، كان تركيزي الكامل على مجال الأصول الرقمية ولم أتابع أخبار مجال الذكاء الاصطناعي. هذا خطأ كبير، ولا يزال يؤرقني.
ولكن هذه المرة، لن أقع في نفس الخطأ مرة أخرى.
اليوم من Crypto AI، أعطني شعورا مألوفا.
نحن نقف حاليًا على حافة اندلاع الابتكار. لها تشابه مذهل مع اندلاع حمى الذهب في كاليفورنيا في منتصف القرن التاسع عشر - حيث تنشأ الصناعة والمدن في ليلة وضحاها ، وتتطور البنية التحتية بسرعة ، ويحصل المغامرون الجريئون على الكثير من الأرباح.
مثل NVIDIA في وقت مبكر ، ستكون Crypto AI واضحة للغاية عندما يتم استعراضها في المستقبل.
Crypto AI: فرص استثمار غير محدودة
· العديد من الناس لا يزالون يعتبرونها "قصر في السماء".
· تقنية الذكاء الاصطناعي للعملات المشفرة حاليًا في مرحلة مبكرة، وقد يكون هناك فترة تصل إلى سنتين قبل أن تصل إلى ذروتها.
· هذا المجال لديه على الأقل إمكانيات نمو بقيمة 2300 مليار دولار أمريكي.
Crypto AI يركز على دمج الذكاء الاصطناعي مع البنية التحتية للتشفير. هذا يجعله أكثر احتمالاً للتطور على مسار الذكاء الاصطناعي الأكثر ارتفاعاً بدلاً من متابعة السوق الأكثر انتشاراً للتشفير. لذلك ، للبقاء في المقدمة ، يجب عليك متابعة أحدث الأبحاث في مجال الذكاء الاصطناعي على Arxiv والتواصل مع المؤسسين الذين يعتقدون أنهم يبنون الحدث الكبير التالي.
أربعة مجالات رئيسية لـ Crypto AI
في الجزء الثاني من أطروحتي، سأركز على تحليل أربعة مجالات فرعية متواعدة في Crypto AI:
الحوسبة اللامركزية: تدريب النماذج والاستدلال وسوق تداول وحدة المعالجة المركزية
شبكة البيانات
قابل للتحقق AI
وكيل ذكاء اصطناعي يعمل في السلسلة
هذه المقالة هي نتيجة عمل عميق لعدة أسابيع من البحث والتواصل مع مؤسسي وفريق Crypto AI. إنها ليست تحليلًا مفصلًا لكل مجال ، بل هي خارطة طريق عالية المستوى تهدف إلى تحفيز فضولك ومساعدتك في تحسين اتجاه بحوثك وتوجيه قرارات الاستثمار الخاصة بك.
أتخيل النظام البيئي لـ اللامركزية AI كهيكل طبقي: يبدأ من الحوسبة الموزعة وشبكة البيانات المفتوحة في الطرف الآخر ، والتي توفر الأساس لتدريب نماذج الذكاء الاصطناعي اللامركزية.
جميع مدخلات ومخرجات التستنتج تتم التحقق منها من خلال التشفير والحوافز الاقتصادية وتقييم الشبكة. يتدفق تلك النتائج المتحققة إلى وكلاء الذكاء الاصطناعي المعتمدين الذين يعملون بشكل مستقل داخل السلسلة، بالإضافة إلى تطبيقات الذكاء الاصطناعي الموثوقة للمستهلكين والمؤسسات.
يتصل شبكة التنسيق بالنظام البيئي بأكمله لتحقيق التواصل والتعاون السلس.
في هذة الرؤية، يمكن لأي فريق يعمل في تطوير الذكاء الصناعي الوصول إلى أحد أو أكثر من المستويات في البيئة وفقًا لاحتياجاته الخاصة. سواء كان استخدام الحوسبة اللامركزية لتدريب النماذج، أو ضمان الإخراج عالي الجودة من خلال تقييم الشبكة، فإن هذا النظام البيئي يوفر خيارات متنوعة.
بفضل القابلية للتكامل في سلسلة الكتل، أعتقد أننا نتجه نحو مستقبل معماري. ستكون كل طبقة متخصصة بشكل كبير، سيتم تحسين البروتوكولات لوظائف محددة بدلاً من اعتماد حلول متكاملة.
في السنوات الأخيرة، ظهرت العديد من الشركات الناشئة في كل طبقة من تكنولوجيا الذكاء الاصطناعي غير المركزية، مما يظهر "انفجارًا على طراز الكمبري"، حيث إن معظم هذه الشركات تأسست في غضون 1-3 سنوات فقط. وهذا يشير إلى أننا ما زلنا في مرحلة مبكرة من هذه الصناعة.
في الرسم البياني للشركات الناشئة لـ Crypto AI التي رأيتها ، تتم صيانة الإصدار الأكثر شمولًا وحداثة من قبل Casey وفريقها في topology.vc. إنه مورد لا غنى عنه لأي شخص يرغب في تتبع تطور هذا المجال.
عندما أقوم بدراسة عميقة لمجالات Crypto AI المختلفة ، أنا دائمًا أفكر: ما هو حجم الفرصة هنا؟ أنا لست مهتمًا بالأسواق الصغيرة ، بل بالفرص الضخمة التي يمكن أن تتوسع إلى مئات المليارات من الدولارات.
1. حجم السوق
عند تقييم حجم السوق، سأسأل نفسي: هل هذا القطاع الفرعي يخلق سوقًا جديدًا بالكامل، أم أنه يقوم بتقليب سوق موجود؟
باستخدام اللامركزية كمثال، فإن هذا مجال مدمر نموذجي. يمكننا تقدير إمكانياته من خلال سوق الحوسبة السحابية الحالي. حاليا، يبلغ حجم سوق الحوسبة السحابية حوالي 6800 مليار دولار، ومن المتوقع أن يصل إلى 25 تريليون دولار بحلول عام 2032.
في المقابل ، يصعب تحديد الأسواق الجديدة مثل وكلاء الذكاء الاصطناعي. نظرا لنقص البيانات التاريخية ، لا يمكننا إجراء تقديرات إلا بناء على أحكام بديهية وتكهنات معقولة حول قدراتها على حل المشكلات. ومع ذلك ، من المهم توخي الحذر من أن ما يبدو في بعض الأحيان أنه نتاج لسوق جديد تماما قد يكون في الواقع نتاج "إيجاد حل لمشكلة ما".
2. الوقت
الوقت هو المفتاح للنجاح. على الرغم من أن التكنولوجيا عادة ما تتحسن وتصبح أرخص مع مرور الوقت ، إلا أن سرعة التقدم في مجالات مختلفة تختلف كثيرًا.
في مجال معين، كيف نضوج التكنولوجيا؟ هل هي بالفعل ناضجة بما فيه الكفاية للتطبيق على نطاق واسع؟ أم أنها لا تزال في مرحلة البحث والتطوير، ومن المتوقع أن تستغرق عدة سنوات حتى يمكن تطبيقها على أرض الواقع؟ يحدد التوقيت ما إذا كان يستحق الاستثمار المباشر الآن، أم يجب المراقبة لفترة مؤقتة.
نأخذ التشفير المتماثل الكامل (Fully Homomorphic Encryption, FHE) كمثال: إن إمكاناته غير قابلة للإنكار، ولكن الأداء التقني الحالي لا يزال بطيئًا جدًا وصعبًا في تحقيق التطبيقات على نطاق واسع. قد نحتاج لبضع سنوات أخرى لرؤية دخوله إلى السوق الرئيسية. لذلك، سأعطي الأولوية للمجالات التي تقترب بالفعل من التطبيقات على نطاق واسع، وسأركز وقتي وجهودي على نقاط الفرص التي تتجمع فيها الزخم.
إذا تم رسم هذه الاختصاصات الفرعية على رسم بياني لـ "حجم السوق مقابل الفرصة"، فقد يكون التخطيط على هذا النحو. يجب ملاحظة أن هذا مجرد مخطط مفهومي وليس دليلًا صارمًا. كما أن هناك تعقيدات داخل كل اختصاص، على سبيل المثال، في الاستدلال القابل للتحقق (verifiable inference)، تختلف الأساليب المختلفة (مثل zkML وopML) في مراحل نضوج التقنية.
ومع ذلك، أعتقد اعتقادا راسخا أن مستقبل الذكاء الاصطناعي سيكون كبيرا بشكل غير عادي. حتى ما قد يبدو "متخصصا" اليوم لديه القدرة على التطور إلى سوق مهم في المستقبل.
في الوقت نفسه، يجب أن ندرك أيضًا أن التقدم التكنولوجي ليس دائمًا تطورًا خطيًا - فإنه غالبًا ما يتقدم بطريقة قفزية. عندما يظهر اختراق تقني جديد، ستتغير رؤيتي لفرص السوق والحجم وفقًا لذلك.
بناءً على الإطار المذكور أعلاه، سنقوم الآن بتحليل تفصيلي لمجالات Crypto AI المختلفة واستكشاف إمكانات تطويرها وفرص الاستثمار فيها.
· اللامركزية计算是整个اللامركزية AI 的核心支柱。
ترتبط أسواق وحدات معالجة الرسومات والتدريب اللامركزي والاستدلال اللامركزي بشكل وثيق ، وتتعاون في التطوير.
يأتي معظم العرض من مراكز البيانات الصغيرة والمستهلكين العاديين من أجهزة GPU.
· حاليًا ، الطلب الجانبي صغير الحجم ، لكنه يزداد تدريجياً ، ويشمل بشكل رئيسي المستخدمين الذين يهتمون بالأسعار ولا يتطلعون إلى وقت الاستجابة المرتفع ، بالإضافة إلى بعض الشركات الناشئة الصغيرة في مجال الذكاء الاصطناعي.
· أكبر تحدي يواجه سوق وحدات معالجة الرسوميات (GPU) Web3 حاليًا هو كيفية جعل هذه الشبكات تعمل بكفاءة حقيقية.
· تنسيق استخدام وحدة معالجة الرسومات (GPU) في شبكة غير مركزية يتطلب تقنية هندسية متقدمة وتصميم هندسي متين للشبكة.
حاليًا، تعمل بعض فرق Crypto AI على بناء شبكة GPU متمركزة اللامركزية للاستفادة من مجموعة من موارد الحساب التي لم تُستخدم بشكل كاف في جميع أنحاء العالم للتعامل مع الطلب الهائل على GPU الذي يفوق بكثير العرض الحالي.
يمكن تلخيص القيم الأساسية لسوق وحدات معالجة الرسومات هذه في ثلاث نقاط:
يمكن تخفيض تكلفة الحساب بنسبة تصل إلى 90٪ مقارنة بـ AWS. يأتي هذا التكلفة المنخفضة من جانبين: أولاً ، إزالة التجار وثانيًا ، فتح الجانب المزود. تتيح هذه الأسواق للمستخدمين الوصول إلى موارد الحساب بأقل تكلفة هامشية على مستوى العالم.
2.قدرة مقاومة التفتيش
· وحدة معالجة الرسومات على مستوى المؤسسات: مثل A100 و H100 وغيرها من وحدات معالجة الرسومات عالية الأداء، تأتي هذه الأجهزة عادةً من مراكز البيانات الصغيرة والمتوسطة (حيث يكون من الصعب العثور على عملاء كافيين لاستخدامها بشكل مستقل)، أو من الأطراف التي ترغب في تنويع مصادر الدخل من التعدين بيتكوين. بالإضافة إلى ذلك، هناك بعض الفرق يستفيدون من المشاريع الكبيرة المدعومة من الحكومة، حيث يتم بناء مراكز بيانات بكميات كبيرة كجزء من تطوير التكنولوجيا. وعادةً ما يكون لهؤلاء الموردين حوافز لربط وحدات معالجة الرسومات بشكل مستمر بالشبكة، للمساعدة في تعويض تكلفة استهلاك الأجهزة.
· بطاقات الرسومات للمستهلكين: يقوم الملايين من اللاعبين والمستخدمين المنزليين بتوصيل أجهزة الكمبيوتر الخاصة بهم بالشبكة والحصول على أرباح من خلال مكافأة الرمز.
الآن، الطلب على الحوسبة اللامركزية يشمل في الغالب عدة أنواع من المستخدمين:
**1. المستخدمون الذين يهتمون بالسعر ولا يتطلبون وقت الاستجابة السريع: ** على سبيل المثال، الباحثون ذوو الميزانية المحدودة، ومطورو الذكاء الاصطناعي المستقلون، وغيرهم. إنهم يركزون على التكلفة بدلاً من القدرة على المعالجة في الوقت الفعلي. نظرًا لقيود الميزانية، يجدون صعوبة في تحمل تكاليف الخدمات السحابية التقليدية الكبيرة (مثل AWS أو Azure). من الأهمية بمكان التسويق المستهدف لهذه الفئة.
2. شركات الذكاء الاصطناعي الناشئة الصغيرة: تحتاج هذه الشركات إلى موارد حسابية مرنة وقابلة للتوسعة، ولكنها لا تريد التعاقد مع مزودي خدمات السحابة الكبيرة لفترات طويلة. تتطلب جذب هذه الفئة تعزيز التعاون التجاري، لأنها تبحث بنشاط عن بدائل خارج الحوسبة السحابية التقليدية.
3. شركات الذكاء الاصطناعي المشفرة الناشئة: هذه الشركات تعمل على تطوير منتجات الذكاء الاصطناعي المرتبطة باللامركزية، ولكن إذا لم تكن لديها موارد الحوسبة الخاصة بها، فإنها تحتاج إلى الاعتماد على هذه الشبكات اللامركزية.
4. ألعاب السحابية: على الرغم من عدم وجود صلة مباشرة بينها وبين AI، فإن طلب موارد وحدة المعالجة الرسومية (GPU) من الألعاب السحابية يرتفع بسرعة.
يجب أن تتذكر نقطة مهمة: يضع المطورون دائمًا التكلفة والموثوقية في المقام الأول.
يعتبر العديد من الشركات الناشئة حجم شبكة توريد وحدة معالجة الرسومات (GPU) علامة على النجاح، ولكن في الواقع، هذا مجرد 'مؤشر زائف'.
الزجاجة الحقيقية هي على الجانب الطلب، ليس العرض. واحد من المؤشرات الرئيسية للنجاح ليس عدد وحدات معالجة الرسومات في الشبكة، ولكن معدل استخدام وحدات المعالجة الرسومية وعددها الفعلي المستأجرة.
تكنولوجيا تحفيز الرموز فعالة للغاية في جذب الموارد بسرعة إلى الشبكة من جانب العرض. ومع ذلك، فإنها لا تحل مباشرة مشكلة الطلب غير الكافي. الاختبار الحقيقي هو ما إذا كان بإمكان تحسين المنتج بما فيه الكفاية لتحفيز الطلب المحتمل.
كما قال Haseeb Qureshi (من Dragonfly)، هذا هو المفتاح.
في الوقت الحالي، أكبر تحدي يواجه سوق GPU الموزعة لـ Web3 هو كيفية تشغيل هذه الشبكات بكفاءة حقيقية.
هذا ليس أمرًا بسيطًا.
تنسيق وحدات المعالجة الرسومية في الشبكات الموزعة مهمة معقدة للغاية تشمل عدة نقاط صعبة من الناحية التقنية، مثل تخصيص الموارد، توسيع الحمولة العملية الديناميكية، توازن الحمولة بين العقد والوحدات المعالجة الرسومية، إدارة وقت الاستجابة، نقل البيانات، القدرة على التحمل وكيفية التعامل مع التنوع في الأجهزة العتادية المنتشرة في جميع أنحاء العالم. تتراكم هذه المشاكل وتشكل تحديًا هندسيًا ضخمًا.
لحل هذه المشكلات ، يلزم القدرة على الهندسة الفعالة جدًا ، بالإضافة إلى هيكل شبكة قوي ومصمم بشكل جيد.
لفهم هذه النقطة بشكل أفضل ، يمكن الاستشهاد بنظام Kubernetes من Google. يُعتبر Kubernetes معيارًا ذهبيًا في مجال ترتيب الحاويات ، حيث يمكنه معالجة المهام مثل التوازن بين الحمل والتوسع تلقائيًا في بيئات المعالجة الموزعة ، وهذه المشاكل مشابهة جدًا للتحديات التي يواجهها شبكة GPU الموزعة. يجدر بالذكر أن Kubernetes تم تطويره بناءً على أكثر من عشر سنوات من الخبرة في الحوسبة الموزعة لدى Google ، وعلى الرغم من ذلك ، استغرق الأمر سنوات عديدة من التطوير المستمر لتحسينه.
حاليًا ، يمكن لبعض أسواق الحوسبة باستخدام وحدة معالجة الرسومات (GPU) التي تم طرحها في السوق التعامل مع أعباء العمل ذات الحجم الصغير ، ولكن عند محاولة التوسع إلى مقياس أكبر ، ستظهر المشاكل. قد يكون ذلك بسبب وجود عيوب جوهرية في تصميمها.
مشكلة الثقة: التحديات والفرص
آخر مشكلة مهمة يجب حلها في شبكة الحوسبة اللامركزية هي كيفية ضمان مصداقية العقدة، أي كيفية التحقق مما إذا كانت كل عقدة تقدم فعلا القدرة الحسابية التي تدعي أنها تقدمها. حاليا، يعتمد هذا العملية التحقق بشكل كبير على نظام السمعة في الشبكة، وفي بعض الأحيان يتم تصنيف مزودي الحوسبة وفقا لتقييمات السمعة. تتمتع تقنية البلوكشين بميزة طبيعية في هذا المجال، لأنها تستطيع تحقيق آلية التحقق بدون الحاجة إلى الثقة. تقوم بعض الشركات الناشئة مثل Gensyn وSpheron بدراسة كيفية حل هذه المشكلة من خلال آلية تحقق بدون الحاجة إلى الثقة.
حالياً، العديد من فرق الويب3 لا تزال تكافح للتعامل مع هذه التحديات، وهذا يعني أيضاً أن هناك فرصاً واسعة في هذا المجال.
إذا، مدى حجم سوق الشبكة الحسابية للتكنولوجيا المالية اللامركزية؟
في الوقت الحالي ، قد يشكل جزءًا ضئيلًا جدًا من سوق الحوسبة السحابية العالمية (التي تقدر بحوالي 6800 مليار إلى 2.5 تريليون دولار). ومع ذلك ، ما دامت تكلفة الحوسبة اللامركزية أقل من مزودي خدمات الحوسبة السحابية التقليدية ، فسوف يكون هناك طلب حتى إذا كان هناك بعض الاحتكاكات الإضافية في تجربة المستخدم.
أعتقد أن تكاليف الحساب اللامركزي ستظل منخفضة في الفترة القصيرة إلى المتوسطة. وهذا يرجع أساسًا إلى عاملين: تعويض TOKEN وإطلاق الإمدادات من المستخدمين غير الحساسين للأسعار. على سبيل المثال ، إذا كنت قادرًا على استئجار حاسوب محمول للألعاب الخاص بي لكسب دخل إضافي ، سواء كان 20 دولارًا أم 50 دولارًا في الشهر ، فسأكون راضيًا.
إن القدرة الحقيقية لشبكة الحوسبة غير المركزية على النمو، وتوسيع حجمها السوقي، تعتمد على عدة عوامل رئيسية:
1. قابلية تدريب نماذج الذكاء الاصطناعي في اللامركزية: عندما يتمكن الشبكة اللامركزية من دعم تدريب نماذج الذكاء الاصطناعي، ستحقق طلبات سوق كبيرة.
3. إدخال بروتوكولات مستوى الخدمة (SLAs): حالياً، تقدم الحوسبة اللامركزية الخدمات بطريقة 'أفعل ما في وسعك'، مما قد يواجه المستخدمين عدم تحديد جودة الخدمة (مثل زمن التشغيل العادي). من خلال SLAs، يمكن لهذه الشبكات توفير معايير موحدة للموثوقية والأداء، مما يكسر العقبات الرئيسية التي تواجهها الشركات، ويجعل الحوسبة اللامركزية بديلاً عمليًا للحوسبة السحابية التقليدية.
اللامركزية، الحوسبة غير المرخصة هي الطبقة الأساسية لنظام الذكاء الاصطناعي اللامركزي، وهي أحد البنى التحتية الأساسية الأكثر أهمية.
على الرغم من أن العتاد مثل وحدات معالجة الرسوميات (GPU) الموردين المتوسعة باستمرار، إلا أنني أعتقد أننا لا يزال في فجر "عصر الذكاء البشري". في المستقبل، ستكون الطلبات على القدرات الحسابية غير محدودة.
يرجى متابعة النقطة المحورية الرئيسية التي قد تؤدي إلى إعادة تسعير سوق وحدة المعالجة الرسومية - هذه النقطة المحورية قد تحدث قريبًا.
· تتنافس سوق GPU النقي بشكل شديد، حيث يواجه ليس فقط التنافس بين منصات الالامركزية، ولكن أيضاً الصعود القوي لمنصات الذكاء الاصطناعي السحابية الناشئة في Web2 (مثل Vast.ai و Lambda).
· العقدة الصغيرة (مثل 4 بطاقات GPU من نوع H100) لا تحظى بطلب كبير في السوق بسبب استخداماتها المحدودة. ومع ذلك، فمن الصعب تقريبا العثور على موردي الأنظمة الكبيرة المتكاملة لأن الطلب عليها لا يزال قوياً للغاية.
· سيتم تكامل إمدادات الموارد الحسابية لبروتوكول اللامركزية بواسطة سيد معين، أم ستظل موزعة في أسواق متعددة؟ أميل إلى الأولى، وأعتقد أن النتيجة النهائية ستكون توزيعًا قويًا، لأن التكامل غالبًا ما يمكن أن يعزز كفاءة البنية التحتية. بالطبع، يحتاج هذا العملية إلى وقت، وخلال هذه الفترة، سيستمر تشتت وفوضى السوق.
يفضل المطورون التركيز على بناء التطبيقات بدلاً من قضاء الوقت في مواجهة مشاكل النشر والتكوين. لذلك ، يحتاج سوق الحوسبة إلى تبسيط هذه التعقيدات وتقليل الاحتكاك للمستخدمين في الحصول على موارد الحوسبة.
ملخص
إذا تحققت قوانين التوسع (Scaling Laws) ، فسيصبح من الصعب على الصعيد الفيزيائي تدريب النماذج المتطورة للذكاء الاصطناعي في مركز بيانات واحد.
· تتطلب تدريب نماذج الذكاء الاصطناعي كميات كبيرة من نقل البيانات بين وحدات GPU، وسرعة اتصال شبكة GPU الموزعة عادة ما تكون أكبر عائق تقني.
· يقوم الباحثون باستكشاف حلول متعددة وتحقيق تقدماً كبيراً (مثل Open DiLoCo و DisTrO). ستؤدي هذه الابتكارات التكنولوجية إلى تكديس تأثيرها وتسريع تطوير التدريب اللامركزي.
قد يتم توجيه مستقبل التدريب غير المركزي بشكل أكبر نحو نماذج صغيرة ومخصصة مصممة لمجالات محددة بدلاً من نماذج حديثة موجهة نحو AGI.
مع انتشار نماذج مثل o1 من OpenAI ، ستشهد الطلب على الاستدلال زيادة كبيرة ، وهذا يوفر فرصًا كبيرة لشبكات الاستدلال اللامركزية.
تخيل: نموذج الذكاء الاصطناعي عملاق يغير العالم ، لم يتم تطويره بواسطة مختبر سري على أحدث طراز ، ولكن من قبل ملايين الأشخاص العاديين. لم تعد وحدات معالجة الرسومات الخاصة باللاعبين تستخدم فقط لتقديم الرسومات الرائعة ل Call of Duty ، ولكن يتم استخدامها لدعم هدف أكبر بكثير - نموذج مفتوح المصدر ، مملوك جماعيا الذكاء الاصطناعي بدون أي حارس بوابة مركزي.
في مستقبل من هذا القبيل، لم يعد نموذج الذكاء الاصطناعي الأساسي حكرًا على المختبرات الرائدة، بل أصبح نتاجًا لإشتراك الجميع.
ولكن عند العودة إلى الواقع ، يتم تجميع معظم تدريبات الذكاء الاصطناعي الثقيلة لا تزال في مراكز البيانات المركزية ، وقد يكون هذا الاتجاه غير قابل للتغيير في الفترة الزمنية المقبلة.
شركات مثل OpenAI توسع بشكل مستمر حجم عملها في مجموعة وحدات المعالجة الرسومية الضخمة. كشف إيلون ماسك مؤخرًا أن شركة xAI ستكمل قريبًا مركز بيانات يحتوي على إجمالي وحدات المعالجة الرسومية المكافئة لـ 200 ألف بطاقة H100.
ولكن المشكلة ليست فقط في عدد وحدات GPU. قدمت جوجل في ورقة بحثية PaLM لعام 2022 مؤشرًا رئيسيًا - معدل استخدام FLOPS للنموذج (Model FLOPS Utilization, MFU)، والذي يستخدم لقياس الاستفادة الفعلية من قدرة الحساب القصوى للوحدة المعالجة الرسومية. ومن المفاجئ أن هذه الاستفادة تكون عادةً فقط 35-40٪.
لماذا تكون هذه النسبة منخفضة جدًا؟ على الرغم من ارتفاع أداء وحدات المعالجة الرسومية بسرعة مع تقدم قانون مور ، إلا أن تحسينات الشبكة والذاكرة وأجهزة التخزين لا تزال متأخرة بكثير ، مما يؤدي إلى ظهور أداء محدود. نتيجة ، غالبًا ما تكون وحدات المعالجة الرسومية في حالة عدم التشغيل ، في انتظار اكتمال نقل البيانات.
حاليًا، هناك سبب واحد فقط يجعل تدريب الذكاء الاصطناعي مركزيًا للغاية - الكفاءة.
تعتمد تدريب النماذج الكبيرة على التقنيات الرئيسية التالية:
· التوازي البيانات: تقسيم مجموعة البيانات على عدة وحدات معالجة الرسومات لتسريع عملية التدريب.
· التوازي النموذجي: توزيع أجزاء مختلفة من النموذج على عدة وحدات معالجة الرسومات (GPU) للتغلب على قيود الذاكرة.
هذه التقنيات تتطلب تبادل البيانات بين وحدات المعالجة الرسومية بشكل متكرر، لذلك فإن سرعة الاتصال (أي معدل نقل البيانات في الشبكة) أمر حاسم.
عندما يمكن أن تصل تكلفة تدريب نموذج AI إلى 1 مليار دولار أمريكي ، فإن تحسين كفاءة كل نقطة أمر حاسم.
مركز البيانات المركزي يمكنه، بفضل تقنية الاتصال السريع بين وحدات GPU، نقل البيانات بسرعة وتوفير تكاليف كبيرة خلال وقت التدريب. هذا ما لا يمكن تجاوزه حالياً... على الأقل حتى الآن.
إذا تحدثت مع ممارسي الذكاء الاصطناعي، فإن العديد منهم قد يقول بصراحة أن التدريب اللامركزي لا يعمل.
في هيكلية اللامركزية، تتواجد مجموعة وحدات معالجة الرسومات (GPU) في مواقع مختلفة، مما يؤدي إلى بطء سرعة نقل البيانات بينها، ويعد هذا الأمر عائقًا رئيسيًا. يتطلب عملية التدريب مزامنة وتبادل البيانات بين وحدات معالجة الرسومات (GPU) في كل خطوة. كلما كانت المسافة أبعد، زاد وقت الاستجابة. وزيادة وقت الاستجابة يعني بطء سرعة التدريب وزيادة التكلفة.
مهمة التدريب التي يمكن إنجازها في مركز بيانات مركزي في غضون أيام قليلة قد لا تكون ممكنة في بيئة اللامركزية حيث قد يستغرق الأمر أسبوعين وتكلفة أعلى. هذا بالتأكيد غير عملي.
ومع ذلك، هذا الوضع يتغير.
مشجع للغاية أن حرارة البحث في التدريب الموزعة ترتفع بسرعة. يقوم الباحثون بالتحقيق من عدة اتجاهات في نفس الوقت، ويعد الكثير من النتائج البحثية والأوراق الصادرة مؤخرًا دليلاً واضحًا على ذلك. ستؤدي هذه التطورات التكنولوجية إلى تحقيق تأثير تراكمي، مما يعجل بتطوير التدريب اللامركزي.
بالإضافة إلى ذلك ، فإن الاختبارات في البيئة الإنتاجية الفعلية أمر مهم للغاية ، حيث يمكن أن تساعدنا في تجاوز الحدود التكنولوجية الحالية.
حاليًا، تمكنت بعض تقنيات التدريب اللامركزي من معالجة نماذج صغيرة بنجاح في بيئات الاتصال المتباطئة، بينما يعمل البحث الحديث على توسيع هذه الطرق لتشمل نماذج أكبر الحجم.
مثلاً ، في ورقة Prime Intellect لـ Open DiCoLo ، تمت مقترحة طريقة عملية: عن طريق تقسيم وحدة معالجة الرسومات إلى "جزر" ، يتم إكمال 500 عملية حسابية محلية من قبل كل جزيرة قبل المزامنة ، مما يقلل من متطلبات النطاق الترددي إلى 1/500 من الأصل. تم توسيع هذه التقنية بنجاح من بحث Google DeepMind المتعلق بالنماذج الصغيرة إلى تدريب نموذج يحتوي على 10 مليارات معلمة ، وتم إصدارها مؤخرًا بالكامل كمصدر مفتوح.
إطار DisTrO من Nous Research يتجاوز بشكل أكبر، حيث يقلل من احتياجات الاتصال بين وحدات GPU بنسبة تصل إلى 10,000 مرة من خلال تقنية المحسن، وفي الوقت نفسه نجح في تدريب نموذج يحتوي على 12 مليار معلمة.
· هذا الزخم مستمر حتى الآن. أعلنت Nous مؤخرًا أنها أكملت تدريبًا مسبقًا لنموذج يحتوي على 150 مليار معلمة، حيث تفوقت منحنى الخسارة وسرعة التقارب حتى على أداء التدريب المركزي التقليدي.
(تفاصيل التغريدة)
بالإضافة إلى ذلك، تم استكشاف أساليب مثل SWARM Parallelism و DTFMHE لكيفية تدريب نماذج AI فائقة الحجم على أجهزة مختلفة، حتى وإن كانت سرعة وظروف الاتصال لهذه الأجهزة مختلفة.
تحد آخر هو كيفية إدارة تنوع أجهزة المعالجة الرسومية (GPU) ، خاصةً GPU الاستهلاك الشائع في الشبكات اللامركزية ، حيث تكون هذه الأجهزة عادة ذات ذاكرة محدودة. يجري حل هذه المشكلة تدريجيًا من خلال تقنية التوازي النموذجي (توزيع طبقات النموذج على عدة أجهزة).
مستقبل تدريب اللامركزية
حالياً، لا تزال حجم نماذج تدريب اللامركزية بعيداً عن النماذج الرائدة (حسب التقارير، حجم معلمات GPT-4 يقترب من 10 تريليون، وهو 100 مرة أكبر من نموذج Prime Intellect الذي يحتوي على 10 مليارات معلمة). لتحقيق التوسع الحقيقي، نحتاج إلى تحقيق اختراقات كبيرة في تصميم النموذج والبنية التحتية للشبكة واستراتيجيات توزيع المهام.
ولكن يمكننا أن نتخيل بجرأة: في المستقبل ، قد يتمكن التدريب اللامركزي من جمع قدرة حسابية بوحدات معالجة الرسومات أكثر من أكبر مراكز بيانات مركزية.
يعتقد Pluralis Research ، وهو فريق يجب مراقبته في مجال التدريب اللامركزي ، أن هذا ليس ممكنا فحسب ، بل لا مفر منه. مراكز البيانات المركزية مقيدة بالظروف المادية ، مثل المساحة وإمدادات الطاقة ، بينما يمكن للشبكات اللامركزية الاستفادة من موارد غير محدودة تقريبا في جميع أنحاء العالم.
حتى جنسن هوانغ من NVIDIA يذكر أن التدريب اللامركزي غير المتزامن يمكن أن يكون المفتاح لإطلاق إمكانات التوسع الذكاء الاصطناعي. بالإضافة إلى ذلك ، فإن شبكة التدريب الموزعة أكثر تسامحا مع الأخطاء.
لذلك، في إحدى إمكانيات المستقبل، قد يتم تدريب أقوى نموذج للذكاء الاصطناعي في العالم بطريقة اللامركزية.
هذا الرؤية مثيرة للحماسة، ولكن لا زلت محتفظًا بموقف الانتظار الحالي. نحن بحاجة إلى المزيد من الأدلة القوية التي تثبت أن تدريب نماذج ضخمة بشكل لا مركزي من الناحية التقنية والاقتصادية ممكن.
أعتقد أن أفضل سيناريو لتدريب اللامركزية قد يكون في نماذج مفتوحة المصدر الصغيرة والمخصصة الموجهة لسيناريوهات تطبيق محددة بدلاً من المنافسة مع نماذج متقدمة ضخمة مستهدفة AGI. لقد أثبتت بعض التصميمات وخاصة تلك التي ليست من نماذج التحويل أنها مناسبة جدًا للبيئات اللامركزية.
بالإضافة إلى ذلك، ستكون آلية تحفيز الرمز أيضًا جزءًا هامًا في المستقبل. بمجرد أن تصبح التدريبات اللامركزية قابلة للتطبيق على نطاق واسع، يمكن للرمز أن يحفز ويكافئ المساهمين بشكل فعال، وبالتالي تعزيز تطوير هذه الشبكات.
على الرغم من الطريق الطويل الماضي، إلا أن التقدم الحالي مشجع. إن الاختراق في التدريب اللامركزي لن يستفيد فقط من الشبكة اللامركزية، بل سيوفر إمكانيات جديدة لشركات التكنولوجيا الكبيرة ومختبرات الذكاء الاصطناعي الرائدة...
حالياً، تتركز معظم موارد الحوسبة الذكية في تدريب نماذج ضخمة. تجري سباق تسلح بين أفضل مختبرات الذكاء الاصطناعي، بهدف تطوير أقوى النماذج الأساسية وتحقيق AGI في النهاية.
ولكنني أعتقد أن هذا التركيز المتزايد على موارد الحساب التدريبية سينتقل تدريجياً إلى الاستدلال في السنوات القادمة. مع تزايد تكنولوجيا الذكاء الاصطناعي في التطبيقات التي نستخدمها يومياً - من الرعاية الصحية إلى صناعة الترفيه - سيصبح دعم موارد الحساب اللازمة للإستدلال ضخماً للغاية.
هذا الاتجاه لا أساس له من الصحة. أصبح قياس حساب وقت الاستدلال موضوعا ساخنا في مساحة الذكاء الاصطناعي. أصدرت OpenAI مؤخرا نسخة معاينة / مصغرة من أحدث طرازاتها ، o1 (الاسم الرمزي: Strawberry) ، والتي تتميز بقدرتها على "قضاء بعض الوقت في التفكير". على وجه التحديد ، يحلل الخطوات التي يحتاج إلى اتخاذها للإجابة على سؤال ، ثم يخطو من خلال تلك الخطوات.
تم تصميم هذا النموذج خصيصًا للمهام المعقدة والتي تتطلب التخطيط، مثل حل ألعاب ملء الفراغ ومعالجة المشكلات التي تتطلب العمق. على الرغم من أنه يولد الاستجابة ببطء، إلا أن النتائج تكون أكثر تفصيلاً وتأملًا. ومع ذلك، فإن هذا التصميم يأتي بتكلفة تشغيل باهظة، حيث يبلغ تكلفة الترجيع 25 مرة تكلفة GPT-4.
من خلال هذا الاتجاه، يمكن رؤية أن النقلة التالية في أداء الذكاء الاصطناعي ليست فقط تعتمد على تدريب نماذج أكبر، ولكن أيضًا ستعتمد على توسيع قدرة الحساب في مرحلة الاستدلال.
إذا كنت ترغب في معرفة المزيد، فقد توصلت بعض الأبحاث إلى أن:
يتبع مرحلة الاستدلال أيضًا قانون التوسع الأسي للقدرة (قانون التوسع).
عندما يتم تدريب نماذج الذكاء الاصطناعي القوية واكتمالها، يمكن تفريغ مهام الاستدلال الخاصة بها (أي مرحلة التطبيق الفعلية) إلى شبكات الحساب اللامركزية. هذه الطريقة جذابة للغاية للأسباب التالية:
· تتطلب موارد الاستدلال بكثير أقل من التدريب. بعد الانتهاء من التدريب ، يمكن ضغط وتحسين النموذج باستخدام تقنيات مثل الكم (Quantization) والتقليم (Pruning) أو التقطير (Distillation). يمكن حتى تقسيم النموذج إلى توأمين وتوازي توأم الأنابيب (Tensor Parallelism) أو توازي تدفق الأنابيب (Pipeline Parallelism) ، وبالتالي تشغيله على أجهزة الاستهلاك العادية. لا يتطلب الاستدلال استخدام GPU عالية الأداء.
· هذا الاتجاه بدأ يظهر. على سبيل المثال، وجدت Exo Labs طريقة لتشغيل نموذج Llama3 الذي يحتوي على 4500 مليار معلمة على أجهزة استهلاكية مثل MacBook و Mac Mini. من خلال توزيع مهام الاستدلال على عدة أجهزة، يمكن إنجاز الاحتياجات الحسابية الضخمة بكفاءة وبتكلفة منخفضة.
· تجربة مستخدم أفضل: تمركز قدرات الحساب في مواقع أقرب إلى المستخدمين، يمكن أن يساهم ذلك بشكل كبير في اسقاطوقت الإستجابة، وهذا أمر حيوي بالنسبة لتطبيقات الوقت الحقيقي مثل الألعاب والواقع المعزز (AR) أو السيارات الذاتية القيادة - حيث يمكن أن يؤدي كل ميلي ثانية من وقت الإستجابة إلى تجربة استخدام مختلفة.
يمكننا أن نعتبر التفكير اللامركزي مشابهًا لـ CDN (شبكة توزيع المحتوى) للذكاء الاصطناعي. يعمل CDN التقليدي عن طريق الاتصال بالخوادم المجاورة لنقل محتوى المواقع بسرعة، بينما يستخدم التفكير اللامركزي الموارد المحلية للحوسبة لتوليد استجابة الذكاء الاصطناعي بسرعة فائقة. من خلال هذه الطريقة، يمكن لتطبيقات الذكاء الاصطناعي أن تصبح أكثر كفاءة واستجابة أسرع، وفي نفس الوقت أكثر موثوقية.
هذا الاتجاه قد بدأ يظهر بوضوح. شركة آبل قدمت مؤخرًا رقاقة M4 Pro الجديدة، والتي أداؤها يقترب بالفعل من NVIDIA RTX 3070 Ti - وهو معالج رسومات عالي الأداء كان في السابق حصريًا للاعبين الهاويين. واليوم، يصبح الأجهزة التي نستخدمها يوميًا قادرة بشكل متزايد على معالجة أعباء العمل الذكاء الاصطناعي المعقدة.
لجعل شبكة الاستدلال غير المركزية ناجحة حقًا ، يجب توفير حوافز اقتصادية كافية وجذابة للمشاركين. تحتاج العقد الحسابية في الشبكة إلى تلقي مكافآت معقولة لقدرتها الحسابية المساهمة ، مع ضمان عدالة وكفاءة توزيع المكافآت في النظام. بالإضافة إلى ذلك ، يعد التنوع الجغرافي أمرًا حاسمًا للغاية. فهو ليس فقط يقلل من وقت الاستجابة لمهام الاستدلال ، ولكنه أيضًا يعزز قدرة الشبكة على التعامل مع الأخطاء ، مما يعزز استقرار النظام بشكل عام.
إذا، ما هو أفضل طريقة لبناء الشبكة اللامركزية؟ الإجابة هي الأصول الرقمية.
الرمز هو أداة قوية يمكن أن توحد مصالح جميع المشاركين وتضمن أن الجميع يعملون نحو هدف واحد: توسيع حجم الشبكة وزيادة قيمة الرمز.
وبالإضافة إلى ذلك، يمكن للرمز أيضًا تسريع نمو الشبكة بشكل كبير. إنها تساعد في حل العديد من الصعوبات الكلاسيكية التي تواجهها الشبكات في مراحلها الأولى، مثل "ما الذي جاء أولا، الدجاجة أم البيضة". من خلال مكافأة المعتمدين في مراحلهم الأولية، يمكن للرمز أن يعزز مشاركة أكبر عدد من الأشخاص في بناء الشبكة من البداية.
نجاح بيتكوين وإيثريوم يثبت فعالية هذا الآلية - فهما قد جمعا أكبر حوض للطاقة الحاسوبية في العالم.
شبكات الاستدلال غير المركزية ستكون الخليفة التالية. بفضل خصائص التنوع الجغرافي، يمكن لهذه الشبكات تقليل وقت الاستجابة وزيادة القدرة على التحمل وتقديم خدمات الذكاء الاصطناعي بشكل أقرب إلى المستخدمين. وبفضل آلية الحوافز التي تعمل بواسطة الأصول الرقمية، ستكون سرعة وكفاءة توسيع الشبكات غير المركزية أعلى بكثير من الشبكات التقليدية.
تنغ يان
في سلسلة المقالات القادمة، سنقوم بالتحقيق في الشبكات البيانات بعمق وندرس كيف يمكن أن تساعد في تخطي العقبات التي تواجهها الذكاء الاصطناعي في مجال البيانات.
هذا المقال مقدم فقط لأغراض تعليمية ولا يشكل أي توصية مالية. هذا ليس تأييدًا لشراء أو بيع الأصول أو اتخاذ قرارات مالية. يرجى إجراء البحوث بنفسك والحفاظ على الحذر عند اتخاذ قرارات الاستثمار.
رابط المقال الأصلي
: