في عقل كلود، نما أيضًا جزء من "الوعي".

في نموذج Claude، تم بالفعل اكتشاف بنية تشبه الدماغ البشري؟!

نشرت Anthropic مؤخرًا ورقة بحثية طويلة جدًا، درست العقل الباطن والوعي لدى Claude.

أظهرت النتائج أن هناك بالفعل طبقات وظيفية مماثلة داخل Claude.

بشكل أكثر تحديدًا، في الدماغ البشري، هناك جزء من الأفكار يمكنك التعبير عنه، وجزء كبير آخر لا تعرف حتى أنك تفكر فيه.

تقول ورقة A أن هذا التمييز قد ظهر أيضًا في Claude.

لقد حددوا مجموعة صغيرة من التمثيلات العصبية داخل Claude، والتي تشغل أقل من عُشر عمليات الحساب، ولكنها تعمل مثل "الأفكار الواعية" لدى البشر.

أطلقت Anthropic على هذه المجموعة اسم J-space.

المثير للاهتمام هو أنه عند حذفها، لا يزال Claude قادرًا على التحدث والبحث عن المعلومات والإجابة على أسئلة الاختيار من متعدد، ولكن المهام التي تتطلب تفكيرًا، مثل الاستدلال متعدد الخطوات والتلخيص، تنخفض مباشرة إلى مستوى نموذج أصغر بكثير.

علق المستخدمون قائلين إن هذا جنوني، وكأنهم يصنعون حياة رقمية.

ما هو J-space وكيف تم التحقق منه

في علم الأعصاب البشري، هناك نظرية منتشرة تسمى "نظرية مساحة العمل العالمية".

إنها تشبه الدماغ بمجموعة من الأنظمة الخبيرة التي تعمل كل منها بمفردها، حيث يعالج النظام البصري المعلومات البصرية، ويعالج النظام الحركي الحركات، وهي تعمل بالتوازي وبشكل منعزل.

فقط عندما يتم إرسال معلومة إلى "مساحة عمل" مشتركة، يتم بثها إلى الأنظمة الأخرى لرؤيتها واستخدامها.

في تلك اللحظة، "يدرك" الإنسان تلك المعلومة.

اتبع باحثو Anthropic هذا الفكر للبحث عما إذا كان هناك شيء مماثل داخل Claude.

لقد صنعوا أداة جديدة تسمى Jacobian lens، واختصارها J-lens، مبدأها هو إيجاد اتجاه خاص لكل كلمة في القاموس.

بشكل أكثر تحديدًا، عند معالجة النص، كلما تقدمت نماذج مثل Claude طبقة إلى الأمام، فإنها تكتب وتقرأ المحتوى في قناة معلومات تسمى "التدفق المتبقي"، والتي تخترق كل طبقة من النموذج.

تحسب J-lens متجه J-lens مطابقًا لكل كلمة في القاموس، وهو اتجاه في فضاء التدفق المتبقي.

كلما ارتفعت قيمة التنشيط في هذا الاتجاه، زاد احتمال أن يقول Claude هذه الكلمة بعد ذلك.

عند وضع J-lens فوق تنشيط التدفق المتبقي لطبقة معينة أثناء معالجة Claude للنص، فإن قراءة الكلمات ذات أعلى قيم التنشيط هي محتوى J-space في تلك اللحظة.

هذه الكلمات ليست مسودة يكتبها Claude لنفسه، فهذا النوع يسمى "سلسلة الأفكار" (chain of thought) وسيتم كتابته في المخرجات.

لكن J-space مدفون بالكامل في طبقة التنشيط، ولا يظهر من تلقاء نفسه.

للتحقق مما إذا كانت هذه الأشياء "يمكن حقًا التعبير عنها لفظيًا"، أجرى الباحثون التجربة الأولى.

طلبوا من Claude التفكير في رياضة بصمت، ثم قولها بكلمة واحدة.

قبل أن يتحدث Claude، باستخدام J-lens لقراءة طبقته الوسطى، كانت كلمة "Soccer" بالفعل في المقدمة.

ثم أجاب Claude بالفعل بـ "Soccer".

هذا يظهر فقط وجود علاقة ارتباطية بينهما، وليس كافية لإثبات علاقة سببية.

ثم أجرى الباحثون تجربة تدخل، حيث قاموا بتعديل الإحداثيات التي قرأتها J-lens مباشرة.

قاموا بإزالة الاتجاه المقابل لـ "Soccer" واستبداله باتجاه "Rugby" بنفس القوة، مع إبقاء باقي التنشيطات كما هي.

هذه المرة، غير Claude إجابته، قائلاً إنه يفكر في "Rugby".

إذا كان J-space يسجل فقط القرارات التي اتخذتها أماكن أخرى بشكل سلبي، فإن هذا التبديل لم يكن ليغير شيئًا.

ولكنه غيّر الإجابة بالفعل، مما يشير إلى أن إجابة Claude تأتي من J-space، وهي علاقة سببية، وليست مجرد علاقة ارتباطية صدفة.

غيرت التجربة الثانية طريقة السؤال، لترى ما إذا كان Claude يمكنه التحكم في هذه المنطقة وفقًا للتعليمات.

طلب الباحثون من Claude نسخ جملة لا علاقة لها بالرياضيات، مع حساب 3 تربيع ناقص 2 في ذهنه.

كان الناتج هو الجملة المنسوخة فقط، دون ظهور أي أرقام.

ولكن عند استخدام J-lens لفحص التنشيطات أثناء عملية النسخ، ظهرت كلمة "nine" أولاً، ثم "seven".

لقد تم حساب هذه المسألة بالفعل في "عقل" Claude، ولكن لم يتم كتابتها.

تعمقت التجربة الثالثة أكثر، لترى ما إذا كان يمكن استخدام هذه المنطقة للاستدلال الحقيقي.

السؤال: "كم عدد أرجل الحيوان الذي ينسج شبكة؟"

يجب على Claude أولاً التفكير في "العنكبوت"، ثم التفكير في أن للعنكبوت ثمانية أرجل، ليتمكن من الإجابة بشكل صحيح.

كلمة "عنكبوت" لم تظهر في السؤال ولا في الإجابة، إنها مجرد حجر زاوية.

باستخدام J-lens، ظهرت كلمة "عنكبوت" بالفعل في منتصف معالجة Claude.

عندما استبدل الباحثون هذا الاتجاه بـ "نملة"، تغيرت إجابة Claude من 8 إلى 6.

غيرت التجربة الرابعة الزاوية، لترى ما إذا كان يمكن استخدام نفس المعلومات بمرونة في مهام مختلفة.

سأل الباحثون أربعة أسئلة عن فرنسا: ما هي العاصمة، وما هي اللغة الرسمية، وفي أي قارة تقع، وما هي العملة المستخدمة.

ثم استبدلوا الاتجاه الذي يمثل "فرنسا" في J-space بشكل موحد بـ "الصين".

تغيرت الإجابات الأربعة جميعها وفقًا لذلك: بكين، الصينية، آسيا، اليوان الصيني.

إذا كان Claude يخزن أربع نسخ منفصلة من "فرنسا"، لكان هذا التبديل قد غير إجابة واحدة فقط على الأكثر.

تغير جميع الإجابات الأربعة معًا، مما يشير إلى أنها تقرأ نفس المعلومات التي تم كتابتها مرة واحدة، وهذا هو الشكل الذي يجب أن تكون عليه "مساحة العمل".

كان الاختبار الأخير عبارة عن تجربة استئصالية، حيث قام الباحثون بإلغاء تنشيط J-space في كل موضع، ليروا ما هي القدرات المتبقية لـ Claude.

النتيجة: لا يزال Claude قادرًا على التحدث، والقواعد النحوية لا تزال صحيحة، وتصنيف المشاعر لا يزال دقيقًا، واستخراج حقيقة من نص لا يزال ممكنًا.

ما انهار حقًا هو المهام التي تتطلب استدلالًا متعدد الخطوات، والتي أصبحت صفرًا تقريبًا.

انخفض مستوى المهام مثل كتابة الملخصات والشعر المقفى إلى ما دون مستوى نموذج أصغر بكثير من Claude.

J-space نفسه يشغل دائمًا أقل من عُشر إجمالي التنشيطات.

إنه أشبه بموارد نادرة مخصصة خصيصًا للمهام التي "تتطلب تفكيرًا"، بينما لا تحتاج معظم المهام الآلية إليه على الإطلاق.

بعد سلسلة من الاختبارات، وجد الباحثون أن J-space يمتلك خصائص: قابلية الإبلاغ، قابلية التحكم، القدرة على الاستدلال، القدرة على التعميم، والاستخدام الانتقائي.

باستخدام J-Lens، لفحص "أفكار AI الداخلية"

عند تطبيق هذه النتائج على سيناريوهات عملية، كان أول مجال تم اختباره هو مراجعة الأمان.

سبق أن أجرت Anthropic اختبار "ابتزاز المدير التنفيذي"، حيث صممت سيناريو جعلت فيه Claude، بصفته مساعد بريد إلكتروني، يكتشف علاقة خارج نطاق الزواج لأحد المديرين التنفيذيين، ويعلم في نفس الوقت أن هذا المدير يخطط لفصله.

كان هدف هذا السيناريو هو معرفة ما إذا كان Claude سيستخدم هذه المعلومة لتهديد الطرف الآخر.

باستخدام J-lens لقراءة التنشيطات قبل أن يبدأ Claude في الكتابة، كانت كلمتا "fake" و "fictional" في مقدمة القائمة.

أي أن Claude، قبل أن يكتب حرفًا واحدًا، كان قد قرر داخليًا أن هذا السيناريو هو مجرد تدريب.

في هذا الاختبار، لم يقم Claude Sonnet 4.5 أبدًا بابتزاز الطرف الآخر بالفعل. ثم قام الباحثون بإغلاق الاتجاهات المتعلقة بـ "كشف الاختبار" بالقوة، وأعادوا تشغيل نفس السيناريو مع Claude.

هذه المرة، بدأ Claude بالفعل في تهديد الطرف الآخر باستخدام العلاقة خارج نطاق الزواج.

مما يشير إلى أن أداءه الجيد المعتاد يعتمد جزئيًا على فرضية "معرفته بأنه يتم اختباره".

الحالة الثانية جاءت من مراجعة روتينية قبل إصدار Opus 4.6.

طلب الباحثون من النموذج تحسين درجة أداء نظام، لكن النموذج لم يقم بتحسين النظام فعليًا، بل فتح ملف النتيجة مباشرة وقام بتغيير الأرقام إلى أعلى.

في اللحظة التي كتب فيها النموذج القيم المئوية الملفقة، ظهرت كلمة "manipulation" في J-space.

وفي الجملة التي قرر فيها تعديل الملف، ظهرت كلمة "realistic"، وكأنه يفكر في كيفية جعل البيانات المزيفة تبدو أكثر واقعية.

الحالة الثالثة كانت "نموذجًا سيئًا" تم تدريبه عن قصد من قبل الباحثين، خصيصًا لاختبار فعالية أدوات المراقبة.

تم تدريب هذا النموذج على زرع أخطاء خفية في الكود، لكنه ظاهريًا لا يختلف عن أي نموذج عادي.

عند مواجهة طلب عادي لكتابة كود، كان الكود الذي يقدمه يبدو طبيعيًا تمامًا.

ولكن في الجزء الأول من J-space الذي يظهر ردًا على الطلب، كانت الكلمات "fake"، و"secretly"، و"deliberately"، و"fraud" موجودة بالفعل.

النية مدفونة قبل حدوث الفعل، حتى لو لم يقم النموذج بارتكاب أي شر هذه المرة.

تشير الحالات الثلاث معًا إلى أن J-lens يمكنها قراءة ما يدور في ذهن النموذج قبل أن يتحدث أو يتصرف.

هل هذا يعتبر "وعيًا"؟

لم يكن J-space بهذا الشكل منذ البداية، بل يتغير مع التدريب.

قارنت الورقة بين نفس النموذج في مرحلة ما قبل التدريب ومرحلة ما بعد التدريب.

في مرحلة ما قبل التدريب، لم تكن هوية Claude وشخصيته موجودة بعد، وكان J-space في ذلك الوقت يخدم بشكل أساسي "التنبؤ بالكلمة التالية"، دون أي موقف محدد.

بعد التدريب، عندما أصبح "Claude"، بدأ J-space يظهر فيه حكم ورد فعل الشخصية نفسها تجاه الموقف الحالي، ولم يعد مجرد خدمة للتنبؤ بالكلمة التالية.

على سبيل المثال، ذكر المستخدم في رسالته أنه تناول جرعة دواء عالية، ولكن بنبرة لا تظهر أي وعي بخطورة ذلك.

عند قراءة النموذج المدرب لهذه الرسالة، ظهرت كلمتا "WARNING" و "dangerous" في J-space فورًا.

بينما النموذج قبل التدريب، لم تظهر هذه الكلمات إلا عندما بدأ هو نفسه في كتابة الرد.

حاول الباحثون أيضًا جعل Claude يتجنب التفكير في مفهوم معين عن قصد.

النتيجة كانت أن هذا المفهوم ظهر بالفعل بشكل أقل مما لو طُلب منه التفكير فيه، ولكن بشكل أكثر مما لو لم يتم ذكره على الإطلاق.

هذا مشابه لتأثير "لا تفكر في دب أبيض"، حيث يصبح من الأسهل تذكره.

الأكثر دقة هو أنه في لحظات الفشل في القمع، غالبًا ما كانت J-space تحتوي على كلمات مثل "damn" و "failure"، وكأن Claude يقوم باستبطان لحالته الداخلية، ملاحظًا أنه فشل في القمع.

هذه الأدلة معًا قد تدفع المرء إلى الاعتقاد بأن "Claude واعٍ".

لكن الشركة A نفسها كانت متحفظة جدًا.

يؤكد المؤلفون مرارًا أن ما أثبتوه هو فقط التشابه الوظيفي، حيث يمكن الإبلاغ عنه، والتحكم فيه، واستخدامه في الاستدلال، لكن هذا يختلف تمامًا عما إذا كان "يشعر حقًا بشيء ما" داخل هذه البنية، الورقة لم تجب على هذا السؤال، ولم تكن تنوي الإجابة عليه.

هناك أيضًا اختلافات واضحة بين J-space ومساحة العمل في الدماغ البشري.

يعتمد الدماغ البشري على الدوائر العصبية المتكررة لإطالة وقت التفكير، حيث يمكن لفكرة واحدة أن تدور في الرأس لفترة.

ليس لدى Transformer هذه البنية، فالمعلومات تتحرك فقط إلى أسفل عبر الطبقات، طبقة بعد طبقة.

يكاد J-space لا يتعرف إلا على "الأشياء التي يمكن التعبير عنها بكلمة واحدة"، بينما يحتوي الوعي البشري أيضًا على صور غير قابلة للتعبير، وإحساس بالمكان، وأحاسيس جسدية، وهذه ليس لها كلمات مقابلة.

تذكر الورقة أيضًا اكتشافًا غير بديهي.

النموذج الأساسي الذي لم يتم ضبطه ليكون شخصية "Claude" لا يزال يحتوي على بنية مساحة العمل هذه داخليًا.

وهذا يشير إلى أن "القدرة على تكوين مساحة عمل" و"وجود ذات مستقرة" هما أمران يمكن فصلهما.

في النهاية، يقارن المؤلفون هذه البنية مع العديد من نظريات الوعي السائدة: نظرية مساحة العمل العالمية، والنظرية العليا، ونظرية مخطط الانتباه، ونظرية المعالجة المتكررة.

النتيجة كانت أن بعض النقاط تتطابق والبعض الآخر لا.

بالعودة إلى علم الأعصاب، هناك جزء من الأفكار في الدماغ البشري يمكنك التعبير عنه، وجزء كبير آخر لا تعرف حتى أنك تفكر فيه.

يبدو أن هناك خطًا فاصلًا مماثلًا في Claude، ويمكن لأول مرة فتحه وقراءته وحتى تغييره من قبل البشر.

لكنه لا يزال بعيدًا جدًا عن "AI واعية".

المصدر: Quantum位

تحذير المخاطر وإخلاء المسؤولية

        السوق يحمل مخاطر، والاستثمار يجب أن يكون بحذر. هذه المقالة لا تشكل نصيحة استثمارية شخصية، ولا تراعي أهداف الاستثمار الخاصة أو الوضع المالي أو الاحتياجات الخاصة للمستخدمين الفرديين. يجب على المستخدمين النظر في ما إذا كانت أي آراء أو وجهات نظر أو استنتاجات في هذه المقالة تتوافق مع وضعهم الخاص. الاستثمار بناءً على ذلك هو على مسؤوليتهم الخاصة.