كلما اقتربت الذكاء الاصطناعي من الذكاء البشري، زادت حاجته إلى نظام دفاع غير بشري.
كتب بواسطة: 0xResearcher
حققت Manus أداءً متفوقًا في اختبار GAIA القياسي ، مما يظهر تفوق أدائها على نماذج Open AI الكبيرة في نفس المستوى. بمعنى آخر ، يمكنها إكمال المهام المعقدة بشكل مستقل ، مثل المفاوضات التجارية عبر الحدود ، مما يتضمن تحليل شروط العقد وتوقع الاستراتيجية وإعداد الحلول ، وحتى التنسيق بين فريقي القانون والمالية. بالمقارنة مع الأنظمة التقليدية ، تكمن ميزة Manus في قدرتها على تفكيك الأهداف ديناميكيًا وقدرتها على الاستدلال عبر الأوضاع المتعددة وقدرتها على تعزيز الذاكرة التعليمية. يمكنها تقسيم المهام الكبيرة إلى مئات المهام الفرعية القابلة للتنفيذ ، وفي الوقت نفسه معالجة أنواع متعددة من البيانات ، واستخدام التعلم التعزيزي لتحسين كفاءة صنع القرار الخاصة بها وتقليل معدل الأخطاء.
!
بينما نعجز عن إيمان بسرعة تطور التكنولوجيا، أثارت Manus مرة أخرى جدلاً في الصناعة حول مسار تطور الذكاء الاصطناعي: هل سيسود AGI في المستقبل، أم سيتم السيطرة بشكل تعاوني من قبل MAS؟
يجب أن نبدأ من فلسفة تصميم Manus ، حيث تتضمن احتمالين:
طريق AGI هو واحد. من خلال رفع مستوى الذكاء الفردي باستمرار، لجعله يقترب من قدرة اتخاذ القرار الشاملة للإنسان.
هناك نوع آخر يُعرف بمسار MAS. كمنسق عام، يقود آلاف وكلاء في مجالات عمودية مختلفة للقتال المشترك.
على السطح، نحن نناقش تفاوتات المسار المختلفة، ولكن في الواقع نحن نناقش التناقضات الأساسية لتطور الذكاء الاصطناعي: كيف يجب أن يتم تحقيق التوازن بين الكفاءة والأمان؟ كلما اقترب الذكاء الاصطناعي الفردي من الذكاء العام الشامل، زادت مخاطر تحويل القرارات إلى صناديق سوداء؛ بينما يمكن أن يؤدي التنسيق بين العديد من الوكلاء إلى تفريق المخاطر، إلا أنه قد يؤدي أيضًا إلى فقدان فرصات القرار الحاسم بسبب تأخير الاتصالات.
تطور Manus ، على نحو غير ملموس ، قد زاد من المخاطر الكامنة في تطور الذكاء الاصطناعي. على سبيل المثال ، ثقب الخصوصية في البيانات: في سياق الرعاية الصحية ، يحتاج Manus إلى الوصول في الوقت الحقيقي إلى بيانات الجينوم للمرضى ؛ أثناء المفاوضات المالية ، قد يتم لمس معلومات مالية غير معلنة للشركات. على سبيل المثال ، في فخ التحيز الخوارزمي ، يقدم Manus اقتراحات رواتب أقل من المتوسط لمرشحي أعراق معينة أثناء المفاوضات بشأن التوظيف ؛ في مراجعة العقود القانونية ، يبلغ معدل الخطأ في تقدير بنود الصناعات الناشئة ما يقارب النصف. وعلاوة على ذلك ، في مواجهة ثغرات الهجمات ، قد يستخدم القراصنة تضمين ترددات صوتية محددة لجعل Manus يقوم بتقدير خطأ في نطاق عروض الأسعار من الخصوم خلال المفاوضات.
علينا أن نواجه نقطة المأساة المخيفة لنظام الذكاء الاصطناعي: كلما زاد ذكاء النظام، زادت أيضًا نطاقات الاختراق.
ومع ذلك، الأمان هو مصطلح يتم ذكره باستمرار في web3، وتحت إطار مثلث المستحيل لـ V (عدم قدرة شبكة البلوكشين على تحقيق الأمان واللامركزية والقابلية للتوسع في نفس الوقت)، تم تطوير العديد من طرق التشفير.
نموذج الأمان بدون ثقة (Zero Trust Security Model): الفكرة الأساسية لنموذج الأمان بدون ثقة هي "عدم الثقة بأي شخص، ودائمًا التحقق"، أي عدم الثقة الافتراضية في أي جهاز سواء كان داخل الشبكة الداخلية أم لا. يؤكد هذا النموذج على إجراء التحقق الصارم من الهوية والتخويل لكل طلب للوصول، لضمان أمان النظام.
هوية لا مركزية (DID): DID هو معيار للهويات يتيح للكيانات الحصول على تعرف بطريقة قابلة للتحقق ودائمة دون الحاجة إلى سجل مركزي، مما يحقق نمطًا جديدًا من الهويات الرقمية غير المركزية، ويُقارن غالبًا بالهوية ذاتية السيادة، وهو جزء مهم من Web3.
التشفير الكامل للتشابه (FHE) هو تقنية تشفير متقدمة تسمح بأداء عمليات حسابية تشفيرية عشوائية على البيانات المشفرة دون فك تشفيرها. هذا يعني أن الطرف الثالث يمكنه التلاعب بالنص المشفر والحصول على نتائج متطابقة بعد فك تشفيرها مع نتائج إجراء العمليات نفسها على النص الواضح. تحمل هذه السمة أهمية كبيرة للسيناريوهات التي تتطلب القيام بعمليات حسابية دون الكشف عن البيانات الأصلية، مثل الحوسبة السحابية وتفويض البيانات.
نموذج الأمان بدون ثقة و DID قد شهدا كمية معينة من المشاريع التي تقوم بمواجهة التحديات خلال فترات السوق الصاعدة، حيث يمكن لهذه المشاريع أن تحقق نجاحًا معينًا أو أن تُغرق في تيار العملات المشفرة، وباعتباره أحدث أساليب التشفير: التشفير الكامل للتوافق (Fully Homomorphic Encryption، FHE)، فإنه أيضًا سلاح قوي لحل مشاكل الأمان في عصر الذكاء الاصطناعي. التشفير الكامل للتوافق (FHE) هو تقنية تسمح بإجراء عمليات حسابية على البيانات المشفرة.
كيفية حل؟
أولاً، من الناحية البيانية. يتم معالجة جميع المعلومات التي يدخلها المستخدم (بما في ذلك السمات الحيوية والنبرة الصوتية) في حالة تشفير، حتى Manus نفسه لا يمكنه فك تشفير البيانات الأصلية. على سبيل المثال، في حالة تشخيص طبي، يشارك بيانات جينوم المريض في التحليل بشكل مشفر تمامًا، لتجنب تسرب المعلومات الحيوية.
على مستوى الخوارزمية. من خلال تحقيق FHE لـ "تدريب النموذج المشفر"، حتى المطورين لا يمكنهم التطلع إلى مسارات قرار الذكاء الاصطناعي.
على مستوى التعاون. يتم استخدام التشفير بالحد الأدنى للتواصل بين العديد من الوكلاء ، ولا يؤدي اختراق العقدة الفردية إلى تسرب البيانات العالمية. حتى في تمارين الهجوم والدفاع عن سلسلة التوريد ، لا يمكن للمهاجم الحصول على رؤية تجارية مكتملة بعد اختراق العديد من الوكلاء.
نظرا للقيود التقنية ، قد لا يرتبط أمان web3 ارتباطا مباشرا بمعظم المستخدمين ، ولكنه مرتبط ارتباطا وثيقا بالمصالح غير المباشرة.
uPort تم إطلاقها على شبكة Ethereum الرئيسية في عام 2017، وربما تكون أول مشروع للهوية اللامركزية (DID) الذي تم إطلاقه على الشبكة الرئيسية.
وفيما يتعلق بنموذج الأمان الثقة الصفري، NKN أطلقت شبكتها الرئيسية في عام 2019.
شبكة العقل هي أول مشروع FHE الذي تم إطلاقه على الشبكة الرئيسية وقد قامت بالموافقة المسبقة على التعاون مع ZAMA و Google و DeepSeek وغيرها.
uPort و NKN هما مشروعان لم يسمع بهما الكاتب من قبل، يبدو أن المشاريع الآمنة حقًا لا تجذب اهتمام المضاربين، هل يمكن لشبكة Mind أن تتفادى هذه اللعنة وتصبح رائدة في مجال الأمان؟ دعونا نراقب عن كثب.
المستقبل قد حان. كلما اقترب الذكاء الاصطناعي من الذكاء البشري ، زادت الحاجة إلى نظام دفاعي غير بشري. قيمة FHE ليست فقط في حل المشكلات الحالية ، بل هي أيضًا لتمهيد الطريق لعصر الذكاء الاصطناعي القوي. في هذا الطريق الوعر الذي يؤدي إلى AGI ، FHE ليس خيارًا اختياريًا ، بل هو ضرورة للبقاء.
المحتوى هو للمرجعية فقط، وليس دعوة أو عرضًا. لا يتم تقديم أي مشورة استثمارية أو ضريبية أو قانونية. للمزيد من الإفصاحات حول المخاطر، يُرجى الاطلاع على إخلاء المسؤولية.
Manus يجلب AGI النور الأول، ويعود الأمن الذكي لإعادة التشكيل
كتب بواسطة: 0xResearcher
حققت Manus أداءً متفوقًا في اختبار GAIA القياسي ، مما يظهر تفوق أدائها على نماذج Open AI الكبيرة في نفس المستوى. بمعنى آخر ، يمكنها إكمال المهام المعقدة بشكل مستقل ، مثل المفاوضات التجارية عبر الحدود ، مما يتضمن تحليل شروط العقد وتوقع الاستراتيجية وإعداد الحلول ، وحتى التنسيق بين فريقي القانون والمالية. بالمقارنة مع الأنظمة التقليدية ، تكمن ميزة Manus في قدرتها على تفكيك الأهداف ديناميكيًا وقدرتها على الاستدلال عبر الأوضاع المتعددة وقدرتها على تعزيز الذاكرة التعليمية. يمكنها تقسيم المهام الكبيرة إلى مئات المهام الفرعية القابلة للتنفيذ ، وفي الوقت نفسه معالجة أنواع متعددة من البيانات ، واستخدام التعلم التعزيزي لتحسين كفاءة صنع القرار الخاصة بها وتقليل معدل الأخطاء.
!
بينما نعجز عن إيمان بسرعة تطور التكنولوجيا، أثارت Manus مرة أخرى جدلاً في الصناعة حول مسار تطور الذكاء الاصطناعي: هل سيسود AGI في المستقبل، أم سيتم السيطرة بشكل تعاوني من قبل MAS؟
يجب أن نبدأ من فلسفة تصميم Manus ، حيث تتضمن احتمالين:
طريق AGI هو واحد. من خلال رفع مستوى الذكاء الفردي باستمرار، لجعله يقترب من قدرة اتخاذ القرار الشاملة للإنسان.
هناك نوع آخر يُعرف بمسار MAS. كمنسق عام، يقود آلاف وكلاء في مجالات عمودية مختلفة للقتال المشترك.
على السطح، نحن نناقش تفاوتات المسار المختلفة، ولكن في الواقع نحن نناقش التناقضات الأساسية لتطور الذكاء الاصطناعي: كيف يجب أن يتم تحقيق التوازن بين الكفاءة والأمان؟ كلما اقترب الذكاء الاصطناعي الفردي من الذكاء العام الشامل، زادت مخاطر تحويل القرارات إلى صناديق سوداء؛ بينما يمكن أن يؤدي التنسيق بين العديد من الوكلاء إلى تفريق المخاطر، إلا أنه قد يؤدي أيضًا إلى فقدان فرصات القرار الحاسم بسبب تأخير الاتصالات.
تطور Manus ، على نحو غير ملموس ، قد زاد من المخاطر الكامنة في تطور الذكاء الاصطناعي. على سبيل المثال ، ثقب الخصوصية في البيانات: في سياق الرعاية الصحية ، يحتاج Manus إلى الوصول في الوقت الحقيقي إلى بيانات الجينوم للمرضى ؛ أثناء المفاوضات المالية ، قد يتم لمس معلومات مالية غير معلنة للشركات. على سبيل المثال ، في فخ التحيز الخوارزمي ، يقدم Manus اقتراحات رواتب أقل من المتوسط لمرشحي أعراق معينة أثناء المفاوضات بشأن التوظيف ؛ في مراجعة العقود القانونية ، يبلغ معدل الخطأ في تقدير بنود الصناعات الناشئة ما يقارب النصف. وعلاوة على ذلك ، في مواجهة ثغرات الهجمات ، قد يستخدم القراصنة تضمين ترددات صوتية محددة لجعل Manus يقوم بتقدير خطأ في نطاق عروض الأسعار من الخصوم خلال المفاوضات.
علينا أن نواجه نقطة المأساة المخيفة لنظام الذكاء الاصطناعي: كلما زاد ذكاء النظام، زادت أيضًا نطاقات الاختراق.
ومع ذلك، الأمان هو مصطلح يتم ذكره باستمرار في web3، وتحت إطار مثلث المستحيل لـ V (عدم قدرة شبكة البلوكشين على تحقيق الأمان واللامركزية والقابلية للتوسع في نفس الوقت)، تم تطوير العديد من طرق التشفير.
نموذج الأمان بدون ثقة و DID قد شهدا كمية معينة من المشاريع التي تقوم بمواجهة التحديات خلال فترات السوق الصاعدة، حيث يمكن لهذه المشاريع أن تحقق نجاحًا معينًا أو أن تُغرق في تيار العملات المشفرة، وباعتباره أحدث أساليب التشفير: التشفير الكامل للتوافق (Fully Homomorphic Encryption، FHE)، فإنه أيضًا سلاح قوي لحل مشاكل الأمان في عصر الذكاء الاصطناعي. التشفير الكامل للتوافق (FHE) هو تقنية تسمح بإجراء عمليات حسابية على البيانات المشفرة.
كيفية حل؟
أولاً، من الناحية البيانية. يتم معالجة جميع المعلومات التي يدخلها المستخدم (بما في ذلك السمات الحيوية والنبرة الصوتية) في حالة تشفير، حتى Manus نفسه لا يمكنه فك تشفير البيانات الأصلية. على سبيل المثال، في حالة تشخيص طبي، يشارك بيانات جينوم المريض في التحليل بشكل مشفر تمامًا، لتجنب تسرب المعلومات الحيوية.
على مستوى الخوارزمية. من خلال تحقيق FHE لـ "تدريب النموذج المشفر"، حتى المطورين لا يمكنهم التطلع إلى مسارات قرار الذكاء الاصطناعي.
على مستوى التعاون. يتم استخدام التشفير بالحد الأدنى للتواصل بين العديد من الوكلاء ، ولا يؤدي اختراق العقدة الفردية إلى تسرب البيانات العالمية. حتى في تمارين الهجوم والدفاع عن سلسلة التوريد ، لا يمكن للمهاجم الحصول على رؤية تجارية مكتملة بعد اختراق العديد من الوكلاء.
نظرا للقيود التقنية ، قد لا يرتبط أمان web3 ارتباطا مباشرا بمعظم المستخدمين ، ولكنه مرتبط ارتباطا وثيقا بالمصالح غير المباشرة.
uPort و NKN هما مشروعان لم يسمع بهما الكاتب من قبل، يبدو أن المشاريع الآمنة حقًا لا تجذب اهتمام المضاربين، هل يمكن لشبكة Mind أن تتفادى هذه اللعنة وتصبح رائدة في مجال الأمان؟ دعونا نراقب عن كثب.
المستقبل قد حان. كلما اقترب الذكاء الاصطناعي من الذكاء البشري ، زادت الحاجة إلى نظام دفاعي غير بشري. قيمة FHE ليست فقط في حل المشكلات الحالية ، بل هي أيضًا لتمهيد الطريق لعصر الذكاء الاصطناعي القوي. في هذا الطريق الوعر الذي يؤدي إلى AGI ، FHE ليس خيارًا اختياريًا ، بل هو ضرورة للبقاء.