معهد ماساتشوستس للتكنولوجيا: لا داعي للذعر من فرضية نهاية العالم بسبب الذكاء الاصطناعي؛ القدرة على التحقق تعتبر موردًا نادرًا

来源：Bankless 播客；整理：Felix, PANews

قام الاقتصادي Christian Catalini من معهد ماساتشوستس للتكنولوجيا (MIT) بزيارة برنامج Ryan وDavid، حيث قام بتحليل ورقته الجديدة “بعض الاقتصاديات البسيطة للذكاء الاصطناعي العام”. تشير الورقة إلى أن المورد النادر في اقتصاد الذكاء الاصطناعي لم يعد هو الذكاء، بل هو التحقق: أي قدرة البشر على فحص وتقييم وتأكيد صحة مخرجات الذكاء الاصطناعي.

قام Christian بتفصيل منحنيين تكاليفيين يعيدان تشكيل مختلف الصناعات (تكاليف الأتمتة وتكاليف التحقق)، موضحًا لماذا تختفي الوظائف المبتدئة أولاً، ولماذا حتى الخبراء البارزين يربون بشكل غير واعٍ خلفاءهم (ما يُسمى “لعنة المبرمجين”). كما رسم ثلاثة أدوار يمكن أن تبقى خلال التحول: المديرون، صانعو المعنى، وضامنو المسؤولية.

قامت PANews بتنظيم أبرز ما جاء في الحوار.

المحاور: أعتقد أن الكثير من المستمعين قد يشعرون مثلي بالذعر بشأن الذكاء الاصطناعي، لماذا تعتقد أن الناس يخشون الذكاء الاصطناعي؟ هل مخاوفهم مبررة؟

Christian: نحن جميعًا نشعر بذلك. هذه فترة تغير سريع وتحولي، وكلما كنت أقرب من الكود، ربما شهدت هذا التسارع مبكرًا. لقد أصبح هذا النمو الأسي حقيقة واقعة جدًا في الأشهر القليلة الماضية. حققت هذه التقنية أشياء كان يعتقد الكثير من الناس أنها ستستغرق وقتًا أطول لتحقيقها، وهذا شعور نحاول جميعًا التعامل معه. لكنني أعتقد أن “نهاية العالم” هي فكرة خاطئة، وغالبًا ما يبالغ الناس في تقدير هذه الأدوات وإمكاناتها. نعم، سيكون هناك فترة انتقالية صعبة للغاية، وسرعة تحول العمل لم يسبق لها مثيل في التاريخ. ومع ذلك، إذا كنت تستفيد من الخصائص الفريدة لهذه التقنية وتستثمر فيها، فستكون الآفاق إيجابية على المدى الطويل، رغم أنها ستكون رحلة مليئة بالتحديات. يرى علماء الاقتصاد أن العمل هو مجموعة من المهام، وبعض هذه المهام ستؤتمت، وهذا خبر جيد، لكن المفتاح هو كيفية إعادة تدريب نفسك والبقاء في المقدمة.

المحاور: من تعتقد أنه سيتأثر أولاً؟

Christian: هذا سؤال رائع، ولدي العديد من الأفكار المختلفة حول هذا الموضوع. أولاً، عندما أقول إن الأشخاص الأقرب إلى الكود سيتأثرون أولاً، أعني أنهم سيكونون أول من يدرك مدى قوة هذه التقنية. كما يكشف “مفارقة جيفنز”، عندما تصبح الأشياء فعالة، نكون أكثر ميلًا لاستهلاك المزيد، على سبيل المثال، سنقوم بكتابة المزيد من البرمجيات. أعتقد أن البرمجة ستشهد تباينًا مثل العديد من المهن الأخرى، وسنطلق عليها في ورقتنا “الدورة الابتدائية المفقودة”. إذا كنت مبتدئًا ولم تحصل بعد على “المعرفة الضمنية” التي تميز بين المنتجات الممتازة والمتوسطة، فإن الذكاء الاصطناعي يمكن أن يحل محلّك بشكل جيد في مختلف المجالات.

الآن يمكن للجميع بسهولة الحصول على مسوق جيد، مبرمج مبتدئ، أو محامٍ يمكنه مساعدتك في معظم الأمور، كل ما تحتاجه هو استدعاء محامٍ بارز في المرحلة النهائية للتحقق من كل شيء. من ناحية أخرى، حتى الخبراء البارزين، أثناء إدخال الذكاء الاصطناعي، يخلقون بشكل واعٍ أو غير واعٍ تسميات ومعلومات وآثار رقمية، التي ستؤدي في النهاية إلى أتمتة وظائفهم. تستقطب المختبرات الرائدة أفضل المواهب من مجالات مثل المالية، وتستخدمهم لإنشاء معايير تقييم، ودمج هذه المعرفة المتخصصة في النماذج الكبرى. لذلك أعتقد أنه لا يوجد عمل واحد آمن بنسبة 100%، حتى العمل البدني الذي يقتصر على قدرات الروبوتات، سيحقق نموذج المكافأة قفزات هائلة في السنوات القادمة. يمكن تتبع أي شيء يحدث على الشاشة ونسخه وتعلمه. بالنسبة لكل مهنة، المفتاح هو التفكير: إذا كنت سأفوض أكبر قدر ممكن من العمل إلى الذكاء الاصطناعي، أين يمكنني إضافة قيمة؟

في الواقع، لدى الناس الكثير من “التعزية الذاتية” بشأن “الذوق” و"الحكم". إنها غامضة جدًا. لذلك نقول في الورقة: لا يوجد ما يسمى بالذوق أو الحكم الجيد أو السيئ، هناك فقط الفرق بين “القابل للقياس” و"غير القابل للقياس". إذا تم قياس شيء ما، يمكن للآلة نسخه. إذا كان شيء ما لا يزال محصورًا في أوزان دماغك، مثل مصمم بارز جمع آلاف الساعات من الخبرة ليقرر ما يجب نشره وما لا يجب نشره، فهذا ما نسميه “التحقق”. كل التحقق هو تلك الخطوة الأخيرة: أن الوكالة الذكية قد أنشأت المنتج، وأنت كصانع قرار، تحكم ما إذا كان قد وصل إلى المعايير المطلوبة للإطلاق في السوق. مع حصول الآلات على بيانات أفضل، ستتحول الأمور إلى الأتمتة؛ لكن عندما نواجه مجالات غير معروفة، أو أماكن لا توجد فيها بيانات على الإطلاق، ستظل هذه الجزء في السنوات القادمة ملكًا للبشر.

المحاور: هذه رؤية عميقة جدًا. لكنني أفكر أيضًا، من الطبيعي أن يقوم المهندسون بأتمتة أعمالهم. هل التأثير على كل صناعة هو نفسه؟

Christian: لدينا ما يكفي من الأدلة على أن التغيير سيكون غير متساوٍ. يمكن التفكير في الأمر بهذا الشكل: هل هذه الوظيفة مجرد “تغليف” لشيء لا تحتاجه المجتمع بشكل أساسي؟ على سبيل المثال، العمل الاستشاري العام، إذا كان يقتصر أساسًا على إعادة تغليف المعلومات المتاحة بشكل واسع، فإنه يحمل مخاطر واضحة. لكن إذا كانت هناك معرفة متخصصة نادرة، أو كان هناك حاجة سياسية لاستشارة مستشار، فستظل هذه الوظائف حية. اسأل نفسك، هل هذه المهنة تحقق الربح لأنها تحل مشكلة معقدة، أم فقط بسبب وجود اختناق مصطنع ما.

المحاور: ماذا يعني التحقق بالضبط؟ أجد صعوبة في تقسيم عملي اليومي إلى أيها عمل معرفي وأيها عمل تحقق.

Christian: الوكالة قد تعلمت من الشبكات والكتب وقامت بقياس كل شيء، لأنها أرخص وقابلة للتوسع، لذا ستستبدل الجزء القابل للقياس. لكن ما زالت الوكالة لا تعرف: وهو الأوزان الفريدة للشبكة العصبية في عقلك. هذه تأتي من تجربتك الشخصية ونضالك، مما يجعلك خبيرًا بارزًا. على سبيل المثال، العديد من المشاركين الأوائل في العملات المشفرة، الكثير منهم من الأرجنتين وفنزويلا، عاشوا في ظل التضخم المفرط، وردود فعلهم على الأصول مختلفة تمامًا. هذا القياس الفريد الداخلي لا يزال ميزة ضخمة.

ما هو التحقق؟ إنه الفرق بين معايير قياسك الشخصية للعالم والمعايير التي تمتلكها الوكالة. مثل محرر بارز يعرف بالضبط أي المقالات ستثير الصدى؛ أو CTO بارز، يواجه مجموعة ضخمة من الأكواد التي أنشأها الذكاء الاصطناعي، يعرف بالضبط أي الأجزاء الحاسمة يجب أن يتحقق منها البشر شخصيًا، وهذا الجزء لا يمكن قياسه بواسطة الآلة.

المحاور: دعني أعطيك مثالًا، إذا رأيت على X فيديو عن إسرائيل تتعرض لقصف بالصواريخ، لكنني اكتشفت أن هذا الفيديو تم إنشاؤه بواسطة الذكاء الاصطناعي. هل يعني ذلك أنني استخدمت عقلي لتحديد المشكلة، وربما قمت بإعادة توجيه لإنشاء فيديو أفضل، وهذا هو “قدرتي على التحقق”؟

Christian: هذا مثال جيد. أكثر من ذلك، قد نكون قريبًا في عالم يصعب فيه على معظم الناس التمييز بين هذا الفيديو والواقع. الخطوة التالية قد تكون أن خبراء عسكريين يلاحظون أن ديناميكيات النيران غير صحيحة. وفي الخطوة التالية، حتى الخبراء العسكريون قد لا يستطيعون التمييز من النظرة الأولى، وسيتعين على الذكاء الاصطناعي تحليل المبادئ الفيزيائية وإجراء اختبارات محاكاة. في النهاية، قد يصبح من المستحيل التمييز، وعندها سيتعين علينا الاعتماد على البنية التحتية المعتمدة على التشفير لتأكيد الحقائق. في مجال الطب أيضًا، ستحتاج الحالات الحدودية في النهاية إلى أفضل أطباء الأشعة الذين لديهم 20 عامًا من الخبرة وفهم خلفية المرضى المحددة ليقوموا بنقض حكم الذكاء الاصطناعي. هذه هي الطبقة الأخيرة الرقيقة من “التمحيص”. عندما نفعل ذلك، سنحرر الكثير من الوقت. لذا، هذه هي الجوانب الإيجابية. يمكننا القيام بمزيد من الأشياء باستخدام موارد أقل. ستنخفض تكلفة الأشياء الباهظة. ستستهلك المجتمع كله المزيد من هذه الأمور. أعتقد أن هذا خبر جيد.

المحاور: لكن في مثالك، الآن يقوم بالتحقق، لكنه سرعان ما لن يتمكن من التحقق، وسيحتاج إلى قائد عسكري، وفي النهاية حتى القائد العسكري لا يمكنه التحقق، وسيتعين عليه اللجوء إلى الذكاء الاصطناعي. أليس هذا هو ما يوضح أن “التحقق” في البداية له قيمة، لكن سرعان ما سيتم أتمتته بواسطة الذكاء الاصطناعي؟ لذا حتى “التحقق” نفسه غير آمن؟

Christian: بالضبط. نحن نسمي ذلك في ورقتنا “لعنة المبرمجين”. إن القيام بفعل التحقق العقلاني جدًا، هو نفسه يدفع تطوير التقنية المتقدمة ويحول البيانات إلى خبرة. لا يمكننا التوقف، لأن جميع المحامين أو الممارسين يحاولون استخدام الذكاء الاصطناعي. التحقق هو حقًا جبهة تتقلص.

المحاور: حتى منطقة العمل الأخيرة للتحقق أيضًا تتقلص بشكل متزايد، متى يمكننا أن نكون غير قلقين؟

Christian: أولاً، هناك أشياء في التصميم لا يمكن قياسها، مثل ما يسمى بـ “ألعاب المكانة” أو الأشياء التي تمنح البشر المعنى. لن تتعرض هذه المجالات للاحتلال من قبل الآلات، لأن خصائصها تتعلق بالتوافق والتوافق بين البشر. العملات المشفرة إلى حد ما هي كذلك، الأهم هو أن البشر يتفقون على ما له قيمة. مع تقلص مجالات العمل القابلة للقياس، سنخترع العديد من الطرق لجعل العمل غير القابل للقياس ذا مغزى.

المحاور: يمكن للذكاء الاصطناعي بناء موقع ويب في 10 ثوانٍ، لكنه قد لا يستطيع كتابة تغريدة واحدة تجذب البشر. هل يمكن أن يكون هذا أحد آخر مجالات العمل للتحقق؟

Christian: جذب الانتباه، أو إخبار نكتة جديدة حقًا، هو عمل إبداعي صعب للغاية، يحاول كسر ما لم يتم قياسه من قبل. لقد تطورنا على مدى عصور من البقاء بقدرة قوية على مواجهة البيئات غير المعروفة. الأشخاص الذين يعملون في هذه المجالات يُطلق عليهم “صانعو المعنى”. على سبيل المثال، في الفنون أو الثقافة، ما هو الجيد يعتمد على توافق رأي البشر. حتى عندما تستخدم الوكالات الذكية، يجب عليك تحديد “النية”.

المحاور: تتناقص تكاليف الأتمتة بشكل أسي، فماذا عن “تكاليف التحقق”؟ هل ستظل محكومة بالقيود البيولوجية للبشر إلى الأبد؟

Christian: حاليًا، هي محكومة بالقيود البيولوجية. لذا، فإن العديد من الشركات تصدر كمية كبيرة من الأكواد التي تم إنشاؤها بواسطة الذكاء الاصطناعي، لكن لا يوجد عدد كافٍ من الأشخاص لقراءتها والتحقق منها، مما يخفي مخاطر كبيرة.

المحاور: ألا يمكن استخدام الذكاء الاصطناعي للتحقق من الذكاء الاصطناعي؟

Christian: إذا كان بإمكان الذكاء الاصطناعي التحقق بشكل صحيح، فإن هذا الجزء نفسه يمكن أن يتم أتمتته. بعد استنفاد جميع عمليات التحقق التي يقوم بها الذكاء الاصطناعي، ما يتبقى هو الأشياء التي لا يمكن التحقق منها بواسطة الذكاء الاصطناعي، وهذا هو عنق الزجاجة للتدخل البشري.

المحاور: إذا كان التحقق هو المورد النادر الجديد، لكنه يتقلص باستمرار، فكيف يمكن العمل والاستثمار في هذه الاقتصاد؟

Christian: قمنا بإنشاء مصفوفة 2x2 بناءً على “تكاليف الأتمتة” و “تكاليف التحقق”. في الزاوية السفلى اليسرى هم العمال الذين سيتم استبدالهم: الأتمتة سهلة، والتحقق أيضًا سهل، بالتأكيد لا تريد البقاء هنا. الثلاثة أرباع الأخرى هي:

صانعو المعنى: الأتمتة صعبة، والتحقق صعب. يكرسون أنفسهم للتوافق الاجتماعي، ألعاب المكانة، والاتصالات الإنسانية. مثل صانعي الذوق في عالم الموضة، أو كOL العملات المشفرة على تويتر، الذين يخلقون السرد وينسقون الاهتمام.

ضامنو المسؤولية: الأتمتة سهلة، والتحقق صعب. هم الخبراء البارزين في المجالات، مثل أفضل المحامين، الأطباء، أو المستثمرين المغامرين. يستخدمون الذكاء الاصطناعي على نطاق واسع، لكنهم يقدمون خدمات تحمل المسؤولية والتحقق للحالات الطرفية النهائية.

المديرون: الأتمتة صعبة، والتحقق سهل. الجوهر هو “النية”. يتعاملون مع “المجهول المجهول”، ويقودون الوكالات مثل رواد الأعمال، ويحددون الاتجاه، ويشعرون بالانحراف ويستمرون في تصحيح المسار.

المحاور: ماذا عن الشباب الذين تخرجوا حديثًا ويريدون دخول سوق العمل؟ من جهة هناك وظائف مبتدئة بلا قيمة، ومن جهة أخرى هناك خبراء بارزين يحتاجون إلى عشر سنوات من صقل الصناعة ليصبحوا كذلك، هناك فجوة هائلة بين الجانبين. يمكن للذكاء الاصطناعي القيام بالأعمال المبتدئة، كيف يمكن للشباب أن يتطوروا إلى الجانب الآخر؟

Christian: الفجوة موجودة بالتأكيد. لكن الخبر الجيد هو أنه يمكنك ضغط وقت التعلم. يمكنك تخطي خطوات التدريب التقليدية. يمكن لمهندس مبتدئ الآن بفضل الأدوات القيام بعمل فريق كامل في الماضي. على الرغم من أنهم سيخطئون في البداية، لكن كجدد يمكنهم أن يتساءلوا عن التقليدية من زوايا جديدة تمامًا، وهذا هو الميزة. يمكنهم تحقيق الأفكار بطرق لم نكن قادرين على القيام بها عندما كنا صغارًا. هناك مزايا وعيوب.

لقد اختفى المسار السابق: “احصل على درجة، وابحث عن تدريب، واعمل بجد للتقدم”، وهذا سيؤدي إلى صدمة ثقافية هائلة. هذا أمر صعب جدًا للشباب الخريجين حديثًا. إذا كنت لا تزال في الجامعة، لا يزال لديك الوقت لرؤية الاتجاه. إذا كنت في حالة من الإحباط، نصيحتي هي: استخدم هذه الأدوات لبناء شيء ما. يجب أن تكون طموحاتك أكبر بمئة مرة مما كانت عليه في عمرنا.

المحاور: هل ستؤدي الاختفاء الكبير للوظائف “التي تضغط على الأزرار” إلى فوضى اجتماعية على المدى القصير؟

Christian: ستعيد المجتمعات دائمًا خلق وظائف “الضغط على الأزرار” للحفاظ على الاستقرار عندما تحتاج لذلك. لكن العديد من الأشخاص الذين يعملون في هذه الوظائف لديهم بالفعل القدرة على القيام بالمزيد، فقط كانوا مقيدين بالبيئة في الماضي. عندما لم يعد العمل البدني ضروريًا، اخترعنا الذهاب إلى صالة الألعاب الرياضية؛ والآن، في مواجهة التحرير من العمل العقلي، سيطور الناس أنواعًا مختلفة من الأعمال الجانبية واقتصاد المبدعين ليشعروا بالتحدي. وهذا هو السبب في أنني أعتقد أن “الدخل الأساسي غير المشروط (UBI)” خاطئ تمامًا، يحتاج الناس إلى معنى ودافع لتحقيق الذات. علاوة على ذلك، حتى إذا تم استبدال جزء كبير من عملك الحالي بالأتمتة، إذا استغليت الذكاء الاصطناعي كأداة فائقة، يمكن حتى لموظف مبتدئ جديد أن يحقق إنتاجية تعادل فريق كامل في الماضي.

المحاور: هل لديك نصائح للشركات والمستثمرين؟

Christian: بالنسبة للشركات، استثمر في بنية التحقق، وقدم “المسؤولية كخدمة” (أي لا تقدم الوكالة فقط بل تتحمل المسؤولية عن النتائج). أيضًا، احرص على امتلاك “مصادر الحقائق الحصرية”، لأن الذكاء الاصطناعي سهل الخداع، والشركات التي يمكن أن توفر بيانات حقيقية حصرية أو تقييمات عميقة مثل Bloomberg لها قيمة هائلة. بالنسبة للمستثمرين، إلى جانب الاستثمار في هذه الأمور، ركز على البحث والتطوير القوي “غير القابل للقياس”. قد تفشل تأثيرات الشبكة العامة السابقة، وسيتم بناء تأثيرات شبكة جديدة على كيفية جعل وكالتك أكثر موثوقية من الآخرين من خلال ردود فعل حقيقية أفضل، لأن ما يريده الناس حقًا هو الذكاء الذي تم التحقق منه.

المحاور: هل التكنولوجيا المشفرة مفيدة في هذه العملية للتحقق؟

Christian: لقد كانت البنية التحتية الأساسية التي تم بناؤها في مجال التشفير على مدى العقد الماضي حيوية. عندما نحتاج إلى التأكد من الهوية ومنع استيلاء الحسابات، يمكن أن توفر التقنيات على السلسلة مثل “إثبات الشخصية” تحققًا قويًا. بالإضافة إلى مصادر البيانات وسلاسل الرقابة التشفيرية، نحتاج إلى ضمان تشفيري صارم بشأن إنشاء المعلومات وما إذا كانت النماذج متوافقة.

المحاور: ماذا يجب على الناس فعله في العام المقبل؟ هل تبقي على تفاؤلك بشأن مستقبل البشرية؟

Christian: أولاً، لا تصابوا بالذعر. جربوا الكثير، واستخدموا الأدوات “لاستبعاد” وتحقيق الأتمتة لأنفسكم الحالية. الكثير من الاستكشافات الهواية المتعلقة بالمستقبل قد تكون أكثر الأعمال مغزى. في أسوأ الأحوال، يمكنك معرفة حدود النموذج وعيوبه. بالنسبة للعديد من المبدعين عبر الإنترنت، أصبحت الهوايات مهنة، وهذا سيكون الاتجاه السائد في المستقبل. إذا كان لديك أطفال، فإن اكتشاف مواهبهم، وغمرهم في ما يحبونه هو الأهم. لا يوجد نموذج مهني ثابت، يمكن لأدوات الذكاء الاصطناعي الجديدة مساعدتك بشكل أفضل في العثور على الطريق الذي يخصك.