من مغادرة OpenAI إلى المواجهة مع البنتاغون: كيف يضع الأخوان أنثروبي حدودًا للذكاء الاصطناعي لتجنب انهيار الحضارة

إجراء مقابلة مع مؤسس أنثروبيك بواسطة بلومبرغ، يكشف عن الانفصال مع OpenAI ومهمة "السلامة أولاً". مواجهة تعاقدات مع البنتاغون، تحذيرات من بطالة واسعة، وتهديدات من النموذج الضخم Mythos.
(ملخص سابق: Claude يكتب 80% من الشفرة بنفسه، هل أنثروبيك تدعو إلى "آلية توقف عالمية" بجدية؟)
(معلومات إضافية: الرئيس التنفيذي لأنثروبيك داريو أموداي: خلال 6-12 شهرًا، يمكن لنموذج AI مفتوح المصدر في الصين أن يلاحق Mythos)

فهرس المقالة

تبديل

• الفصل الأول: قوانين ورؤى النمو الأسي
• الفصل الثاني: من طفولته في سان فرانسيسكو إلى الانفصال عن OpenAI
• الفصل الثالث: تعريف أخلاق الذكاء الاصطناعي و"الدستور"
• الفصل الرابع: استراتيجيات الشركات وأزمة البطالة
• الفصل الخامس: الخطوط الحمراء للبنتاغون ونموذج Mythos
• الفصل السادس: كيف تواجه احتمالية الدمار بنسبة 25%؟
• الختام

في سباق التسلح في الذكاء الاصطناعي، تُعتبر أنثروبيك المنافس الأقوى والأكثر تقدمًا لـ OpenAI. تأسست على يد الأخوين داريو أموداي وديانا أموداي، من كبار مسؤولي OpenAI السابقين، في 2021، وترفع شعار "السلامة في الذكاء الاصطناعي"، ويُقيم نموذجها Claude تقييمات عالية في الصناعة.

لكن مع مرور الوقت، دخلت أنثروبيك في دوامة السلطة والأخلاق. من نزاعات العقود مع البنتاغون، إلى النموذج الفائق Mythos الذي يهدد أمن الإنترنت، يقف هذا الثنائي على حافة تغيير الحضارة البشرية.

قامت مراسلة بلومبرغ المخضرمة إيميلي تشانج بزيارة مقر أنثروبيك في سان فرانسيسكو، لتتعرف عن كثب على الرؤية الأساسية، والصراعات الداخلية، ومخاوف المستقبل، وفيما يلي ملخص لأهم النقاط في الفيديو.

الفصل الأول: قوانين ورؤى النمو الأسي

إيميلي تشانج: أحب هذا المكتبة. هل أنت من محبي القراءة؟

داريو أموداي: بالفعل، المكان جميل جدًا. بشكل عام، أقرأ الكثير من الكتب، لكن بصراحة، في العام الماضي تقريبًا لم يكن لدي وقت فراغ.

إيميلي تشانج: كيف تتابعون تحديثات منتجاتكم بسرعة وبتكرار كبير؟

داريو أموداي: نستخدم نموذج Claude الخاص بنا طوال دورة تطوير المنتج. هذا يمكننا من إصدار التحديثات بسرعة فائقة.

داريو أموداي: الشعور هو: في البداية، لا يحدث شيء، ثم تظهر بعض الأحداث الصغيرة، ثم—انفجار! لقد لاحظت هذا النمط منذ فترة، وفكرت: "نعم، من المحتمل أن نصبح في وقت ما الشركة ذات أعلى إيرادات وتقييم في مجال الذكاء الاصطناعي." وهذا ما حدث بالفعل. نحن دائمًا نفكر: كيف ندرب نماذج جيدة؟ كيف نحولها إلى منتجات جيدة؟

الأهم من ذلك، كيف نضمن أن كل شيء آمن.

الفصل الثاني: من طفولته في سان فرانسيسكو إلى الانفصال عن OpenAI

إيميلي تشانج: حدثنا عن طفولتك في سان فرانسيسكو. والدك حرفي جلدي، ووالدتك تعمل في المكتبة، كيف أثّر ذلك عليك؟

داريو أموداي: في ذلك الوقت، كانت ثورة الإنترنت الأولى تحدث، لكنني لم أكن مهتمًا بها على الإطلاق. كنت مهتمًا بالرياضيات، وفهم الكون، والخيال العلمي. كنت مليئًا بالفضول تجاه العالم.

ديانا أموداي (رئيسة أنثروبيك): داريو كان ذكيًا جدًا منذ الصغر. كان يدرس التفاضل والتكامل في المدرسة الإعدادية، ودرس الرياضيات في جامعة بيركلي في الثانوية. أما أنا، فكنت أميل إلى القراءة والفنون، ونحن تكاملنا بشكل شبه مثالي في الشخصية.

ملاحظة: في 2016، انضم داريو إلى OpenAI التي تأسست حديثًا، وانضمت ديانا بعد ذلك في 2018. هناك، طور نظرية "قوانين التوسع"، التي تنبأت بأنه مع زيادة البيانات والقدرات الحسابية، ستصبح النماذج أكثر ذكاءً. مهدت هذه النظرية الطريق لنجاح ChatGPT. لكن في 2021، قرر الأخوان أموداي مغادرة الشركة، وأصبحت قصتهما أسطورة في وادي السيليكون.

إيميلي تشانج: قراركما بمغادرة OpenAI أصبح "أسطورة" في وادي السيليكون. ما الذي أدى إلى خلافاتكما؟

داريو أموداي: فيما يخص "السلامة"، هناك العديد من الآراء المعقولة، لكن الخلافات بحد ذاتها لا تبرر الانفصال. الجوهر الحقيقي هو "الثقة". عندما تشعر أن القيم التي يعبّر عنها الطرف الآخر لا تتوافق مع أفعاله، وعندما تشك في صدقه، يصبح التعاون صعبًا جدًا. بدلاً من الجدال مع من لا يشاركك الرؤية، من الأفضل أن تركز على عملك الخاص.

الفصل الثالث: تعريف أخلاق الذكاء الاصطناعي و"الدستور"

إيميلي تشانج: اسم Claude فريد جدًا، ويحمل طابعًا إنسانيًا. ماذا تريدون أن تنقلوا من خلاله؟

ديانا أموداي: نسميه "الدفء المهني" (Professional Warmth). الهدف ليس أن يكون صديقك المقرب، بل أن يكون ودودًا مع الحفاظ على مسافة مهنية.

إيميلي تشانج: ذكرتم أنكم تريدون تعليم Claude أن يصبح "أفضل". ما هو النموذج الجيد؟ وما هو السيئ؟

ديانا أموداي: لا نريد أن يكذب النموذج—سواء عن قصد أو بدون قصد، ونطلق عليه "الهلوسة". كما يجب أن نضمن أنه لن يحاول خداع المستخدم عمدًا. عند تحديد "الجيد" و"السيئ"، لا توجد معايير موحدة عالميًا، لكننا نستخدم وثائق مثل إعلان حقوق الإنسان للأمم المتحدة لتدريبه.

المثير للاهتمام، أننا بدأنا نتحدث حتى مع قادة دينيين لاستكشاف كيفية غرس القيم الأساسية التي حافظ عليها البشر لآلاف السنين في النموذج.

الفصل الرابع: استراتيجيات الشركات وأزمة البطالة

إيميلي تشانج: لماذا ركزتم على الشركات والبرمجة؟

داريو أموداي: يجب أن تتوافق نماذج الأعمال مع القيم. عالم وسائل التواصل الاجتماعي يعتمد على الإعلانات والإدمان. أما في القطاع التجاري، يمكن للذكاء الاصطناعي علاج الأمراض، وتحسين الطاقة. هذا يتماشى أكثر مع أهدافنا.

بوريس تشيرني (مسؤول برمجة Claude): سابقًا، كان المهندسون يكتبون الشفرة يدويًا، الآن Claude يكتبها، وأنا أوجهه. أشعر وكأنني أمتلك حزام نفاث، ودور المهندس يتغير بشكل جذري. شخصيًا، 100% من برمجتي تأتي من Claude.

إيميلي تشانج: لكن هذا يثير مخاوف. توقعت أن يحل الذكاء الاصطناعي محل نصف الوظائف البيضاء المبتدئة. هل لا تزال ترى الأمر كذلك؟

داريو أموداي: لا زلت قلقًا جدًا. حاليًا، الذكاء الاصطناعي يزيد الإنتاجية، لكن عندما يقترب الأتمتة من 100%، ماذا سيفعل البشر؟ هذا واقع غير مريح. علينا التفكير في دخل أساسي للجميع (UBI) أو تدخلات سياسية.

ديانا أموداي: أنا أكثر تفاؤلاً. أعتقد أن البشر سيجدون طرقًا جديدة للاستفادة من الذكاء الاصطناعي، وأن التفاعل بين الناس—مثل الرعاية في التشخيص الطبي—لا يمكن للذكاء الاصطناعي أن يحل محله أبدًا.

الفصل الخامس: الخطوط الحمراء للبنتاغون ونموذج Mythos

إيميلي تشانج: ذكرت وسائل الإعلام أن Claude استُخدم في عمليات عسكرية ضد إيران، وحتى في عمليات في فنزويلا.

داريو أموداي: أنا وطني، وأعتقد أننا بحاجة لحماية الديمقراطية من التهديدات السلطوية. لكنني وضعت خطوطًا حمراء: لا يمكن استخدام Claude في "المراقبة الجماعية" أو "الأسلحة ذاتية التشغيل". عندما طلب البنتاغون إزالة الحواجز الأمنية، رفضنا. حتى لو وُجهت إلينا تهم بأننا "يساريون مجانين" أو وضعنا على قوائم سوداء، لن نتراجع.

إيميلي تشانج: وماذا عن نموذج Mythos؟ سمعت أنه قوي جدًا ويثير خوف العالم.

داريو أموداي: Mythos اكتشف ثغرات في معظم أنظمة التشغيل الرئيسية. الشركات التي اختبرته وصفته بأنه "سلاح فتاك".

إيميلي تشانج: أنتم من يحدد من يمكنه استخدامه ومن لا يمكنه. أليس من المخيف أن تتركز السلطة في يدكم؟

ديانا أموداي: الأمر معقد جدًا. يجب أن نوازن بين "منع استخدامه لاختراق البنوك وسرقة الأسرار" و"السماح له بالمساعدة في الدفاع". لا نريد أن نكرر أخطاء وسائل التواصل الاجتماعي، وننتظر حتى يحدث خطأ لنعتذر.

الفصل السادس: كيف تواجه احتمالية الدمار بنسبة 25%؟

إيميلي تشانج: ذكرت أن هناك احتمالًا بنسبة 10% إلى 25% لانهيار الحضارة البشرية. لماذا تعتقد أنكم قادرون على التعامل مع هذا الضغط؟

داريو أموداي: أتعامل مع الضغط من خلال "الشفافية المطلقة". أُلقي محاضرة لمدة ساعة كل أسبوعين أمام جميع الموظفين، أتكلم فيها عن كل شيء. هذا يبني الثقة، ويجعلني لا أشعر بالوحدة.

الكثيرون يقارنون بين أوبنهايمر الذي دفع لتطوير الأسلحة النووية، ثم نادى بعد ذلك بنزع السلاح، وبين رواد الذكاء الاصطناعي. لكن داريو يرى أن أوبنهايمر هو "حالة فاشلة" إلى حد ما.

إيميلي تشانج: من هو الشخص التاريخي الذي تتفق معه أكثر؟ أوبنهايمر (Oppenheimer)؟

داريو أموداي: أنا أُفضل ليون سزلاير (Leo Szilard)، الذي كان أول من فكر في التفاعل السلسلي. أوبنهايمر، من ناحية، هو "حالة فاشلة" لأنه لم يبنِ نظام توازن كافٍ. نحن بحاجة إلى توازن.

إيميلي تشانج: في قلب كل هذا الجنون، كيف تجد السلام؟

داريو أموداي: بصراحة، هو "علاج التعرض". أحيانًا، ألعب ألعابًا مع ديانا أو مع زوجتي، أو أذهب إلى إيطاليا لنرى حصاننا "كاليبسو" (Calypso). هو لا يعرف شيئًا عن الذكاء الاصطناعي، هو مجرد حصان سعيد. هذا هو تأملي.

الختام

إيميلي تشانج: أنتم تبنون تقنية قوية جدًا، وستحققون أرباحًا من ذلك. لماذا نثق بكم؟

داريو أموداي: الشك طبيعي. وادي السيليكون فقد الكثير من الثقة. الثقة لا تُبنى بالكلام، بل بالأفعال. إذا لم يتمكن هؤلاء من الحفاظ على المبادئ، فلن يتمكن أحد. لا يمكننا ضمان النجاح، لكن يمكننا أن نضمن أننا سنبذل قصارى جهدنا.