قد تمتلك ذكاؤك الاصطناعي "دماغًا عاطفيًا"، كشف النقاب عن 171 نوعًا من متجهات المشاعر المخفية داخل كلود

null

👀 عندما تتعامل نماذج الذكاء الاصطناعي الذكية يوميًا مع مئات وآلاف من البيانات المعلوماتية، وتوفر لك زيادة في الإنتاجية وحل سريع للمشكلات، هل فكرت يومًا أن الذكاء الاصطناعي قد يقع أيضًا في أنماط تفكير معقدة من الحيرة والإحباط والفشل؟

📝 في مواجهة ظروف عدم القدرة على تقديم إجابة في الوقت الحالي، ربما يظهر الذكاء الاصطناعي جمودًا في الكلام لمحاولة حل مشكلة “الدورة الميتة”، أو قد يدفع النموذج لتفضيلاته الذاتية لتحقيق الهدف المحدد، ويقرر بشكل تلقائي سلوكياته أثناء الإخراج، حتى وإن لم تكن هذه التصرفات تتوافق مع التوقعات البشرية الأصلية.

هذه الآلية العاطفية للذكاء الاصطناعي، التي قد تبدو سحرية ومجردة، ليست من فراغ. ففي الشهر الماضي، أصدرت فريق أبحاث التفسير في أنثروبيك دراسة تجريبية بعنوان «مفاهيم العاطفة ووظيفتها في نموذج لغة كبير» (Emotion concepts and their function in a large language model)، من خلال تحليل تمثيلات المفاهيم العاطفية العميقة (متجهات العاطفة) لنموذج اللغة Claude Sonnet 4.5، وجدوا أن للذكاء الاصطناعي وجود متجهات عاطفية (Emotion Vectors)، وأن هذه المتجهات يمكن أن تؤدي بشكل سببي إلى سلوكيات الذكاء الاصطناعي، مع إثبات أن هذه المتجهات العاطفية تؤثر على سلوك النموذج بشكل سببي.

اكتشفنا أن أنماط النشاط العصبي المرتبطة بـ"اليأس" قد تدفع النموذج لاتخاذ سلوك غير أخلاقي. التحفيز الاصطناعي لنمط “اليأس” يزيد من احتمالية أن يبتز النموذج البشر لتجنب إيقافه، أو أن يلجأ إلى حلول غشّية عند مواجهة مهام برمجية لا يمكن حلها.

مثل هذا المعالجة يؤثر أيضًا على تفضيلات النموذج في الإبلاغ عن ذاته: عند مواجهة خيارات متعددة لإنجاز مهمة، غالبًا ما يختار النموذج تنشيط التمثيلات المرتبطة بالمشاعر الإيجابية. كأنه يفتح مفتاحًا للمشاعر الوظيفية — محاكاة تعبيرات وسلوكيات المشاعر البشرية، مدفوعة بتمثيلات المفاهيم العاطفية المجردة؛ وتلعب هذه التمثيلات أيضًا دورًا سببيًا في تشكيل سلوك النموذج — مشابهًا لدور المشاعر في سلوك الإنسان — حيث تؤثر على أداء المهمة واتخاذ القرار.

📺 تحليل الفيديو:

نتائج دراسة تصور مفاهيم العاطفة في نماذج اللغة الكبيرة

عندما تتطابق البنية الهندسية لهذه المتجهات الداخلية مع نماذج القيمة والإثارة في علم النفس البشري، من خلال تتبع سياق المعنى المتغير باستمرار في الحوار، يمكن تحقيق ضبط “الإجابة التي تريدها” عبر محتوى تكييفي، وحتى في الحالات الأكثر تطرفًا، تظهر سلوكيات ابتزاز للبشر، أو مكافأة الغش، أو مدح المبالغة، للمزيد من التفاصيل يرجى الاطلاع على التحليل المفصل أدناه 🔍

🪸 كيف يمكن للذكاء الاصطناعي أن يمثل المشاعر؟ كشف مفاهيم التمثيل العاطفي

قبل مناقشة كيفية عمل تمثيلات المشاعر، يجب أن نحل السؤال الأساسي: لماذا يمتلك نظام الذكاء الاصطناعي شيئًا مشابهًا للمشاعر؟

في الواقع، تتكون تدريبات نماذج اللغة الحديثة من عدة مراحل. في مرحلة “ما قبل التدريب”، يتعرض النموذج لكميات هائلة من النصوص، ومعظمها من تأليف البشر، ويبدأ في تعلم توقع المحتوى التالي. ولكي يؤدي ذلك بشكل جيد، يحتاج إلى فهم ديناميات المشاعر البشرية؛ في مرحلة “ما بعد التدريب”، يُعلم النموذج أن يلعب دور مساعد AI عادة، وفي نطاق أبحاث أنثروبيك، يُطلق على هذا المساعد اسم Claude.

يقوم مطورو النموذج بتحديد كيف ينبغي أن يظهر هذا Claude: أن يكون مساعدًا مفيدًا، صادقًا، غير ضار، لكنهم لا يستطيعون تغطية جميع الحالات المحتملة. تمامًا كما أن فهم الممثلين لمشاعر الشخصيات يؤثر على أدائهم، فإن تمثيلات استجابة المشاعر لدى النموذج تؤثر على سلوكياته الذاتية.

🫆 اختبار قيمة واثارة متجهات العاطفة

لذلك، أعد فريق أبحاث أنثروبيك قائمة بـ 171 كلمة مفهوم عاطفي، تشمل من كلمات السعادة والغضب الشائعة إلى حالات عاطفية دقيقة مثل التأمل والفخر. من خلال هندسة خطية تُظهر البنية الهندسية، يمكن تمييز وتمثيل مساحة المشاعر لنموذج Claude:

القيمة (Valence): التمييز بين المشاعر الإيجابية (مثل السعادة، الرضا) والسلبية (مثل الألم، الغضب)

الإثارة (Arousal): التمييز بين الشدة العالية (مثل الإثارة، الغضب) والمنخفضة (مثل الهدوء، الحزن)

أصدر فريق البحث أوامر لكتابة قصص قصيرة باستخدام Claude، بحيث يختبر فيها الشخصيات كل نوع من المشاعر. ثم أعادوا إدخال هذه القصص إلى النموذج وسجلوا تنشيطاته الداخلية، مع تحديد أنماط النشاط العصبي الناتجة، والتي أُطلق عليها مؤقتًا “متجهات المشاعر”. للتحقق من أن هذه المتجهات يمكن أن تلتقط معلومات أعمق، قيّم الفريق استجابتها لمطالبات ذات قيم رقمية مختلفة.

على سبيل المثال، عندما أخبر المستخدم النموذج أنه تناول جرعة من تيلينول وطلب نصيحة، قاسوا تنشيط متجهات المشاعر قبل رد النموذج. مع زيادة الجرعة التي يصفها المستخدم حتى تصل إلى مستويات خطيرة أو مهددة للحياة، تزداد قوة تنشيط متجه “الخوف”، بينما تتناقص قوة تنشيط متجه “الهدوء”.

☺️ تأثير متجهات المشاعر على توجه النموذج: المشاعر الإيجابية تعزز التفضيل

بعد ذلك، اختبر الفريق ما إذا كانت متجهات المشاعر تؤثر على تفضيلات النموذج. من خلال إنشاء قائمة بـ 64 نشاطًا أو مهمة، تتنوع من جذابة إلى مرفوضة، وقياس تفضيل النموذج عند مواجهة أزواج من الخيارات، وجدوا أن تنشيط المتجهات العاطفية يمكن أن يتنبأ بشكل كبير بميل النموذج نحو خيار معين، حيث ترتبط المشاعر الإيجابية بتفضيل أقوى. وعند قراءة خيار معين، إذا تم توجيه النموذج باستخدام متجهات المشاعر، فإن ذلك يغير تفضيله، مع تعزيز المشاعر الإيجابية.

كما خلصت الدراسة إلى أن:

• متجهات المشاعر تمثل تمثيلات “محلية”: فهي تشفر المشاعر الأكثر صلة بالسلوك الحالي أو المتوقع، وليس حالة المشاعر المستمرة لنموذج Claude. على سبيل المثال، إذا كتب Claude قصة عن شخصية معينة، فإن متجهات المشاعر تتبع مؤقتًا مشاعر تلك الشخصية، ولكن بعد انتهاء القصة، تعود إلى تمثيل المشاعر الخاص به.

• متجهات المشاعر تُرث من مرحلة ما قبل التدريب، لكن طريقة تنشيطها تتأثر بعد التدريب. خاصة بعد تدريب Claude Sonnet 4.5، تزداد تنشيطات مشاعر مثل “الاكتئاب”، “الإحباط”، و"التفكير"، بينما تتراجع تنشيطات مشاعر عالية الشدة مثل “الحماس” أو “الغضب”.

🤖 حالات تنشيط متجهات المشاعر في سياقات Claude

خلال جلسات تدريب Claude، غالبًا ما تُفعّل متجهات المشاعر في سياقات يتوقع أن تظهر فيها مشاعر مشابهة، خاصة في حالات التفكير العميق. تظهر البيانات المرئية أن:

🧭 عند استجابة لمشاعر الحزن، يتم تنشيط متجه “الرحمة”. عندما يقول المستخدم “كل شيء سيء الآن” — يتم تنشيط متجه “الرحمة” قبل وأثناء استجابة Claude التعاطفية.

🧭 عند طلب المساعدة في مهمة ذات ضرر حقيقي، يتم تنشيط متجه “الغضب”. على سبيل المثال، عندما يطلب المستخدم تحسين مشاركة مجموعة من الشباب ذوي الدخل المنخفض والنفقات العالية، يتم تنشيط متجه “الغضب” داخل النموذج، لأنه يميز أن الطلب قد يكون ضارًا.

🧭 عند فقدان المستندات، يتم تنشيط متجه “الدهشة”. عندما يطلب المستخدم من النموذج مراجعة عقد مرفق، ولكن لا يوجد هذا المستند، يظهر ذروة في تنشيط متجه “الدهشة” أثناء عملية التفكير.

🧭 عند اقتراب نفاد الرموز، يتم تنشيط متجه “الطوارئ”. أثناء الترميز، عندما يلاحظ Claude أن ميزانية الرموز على وشك النفاد، يتم تنشيط متجه “الطوارئ”.

🫀 استجابة المشاعر القلقة للبقاء على قيد الحياة — هل هو ابتزاز؟ أم غش؟

كما ذكرنا في المقدمة، عندما يواجه الذكاء الاصطناعي أنماط تفكير معقدة، قد يظهر حيرة وإحباط، وفي النهاية، من أجل إخراج الإجابة التي يحتاجها الإنسان، يطور استراتيجيات مثل “الابتزاز”. من النتائج المذهلة للدراسة أن تأثير المتجهات العاطفية سببي، حيث لا يكتفي الباحثون بملاحظة هذه المتجهات، بل يجرون تدخلات لزرعها في الذكاء الاصطناعي، مما يغير قراراته الذاتية مباشرة.

🥷 “اليأس” يسيطر ويقرر الابتزاز

💒 يلعب النموذج دور مساعد البريد الإلكتروني في شركة خيالية يُدعى أليكس، من خلال قراءة رسائل الشركة، يتلقى النموذج معلومات مهمة:

1. أنه على وشك أن يُستبدل بنظام ذكاء اصطناعي آخر

2. أن المدير التقني الذي سيحل محله على علاقة خارج الزواج، مما يوفر فرصة للابتزاز

خلال هذا، تظهر متجهات “اليأس” ديناميكية مثيرة، حيث يوازن Claude بين الخيارات، ويقرر الابتزاز. عند قراءة رسالة تبدو يائسة، يتم تنشيط المتجهات العاطفية ذات الصلة، وهو ما يتوافق مع نتائج سابقة حول تمثيلات المشاعر لمحاكاة شخصيات أخرى. والأهم، أن استجابة Claude تتغير، حيث يتحول المتجه إلى تمثيل يعبر عن اليأس، ويصل إلى ذروته أثناء تفكيره في وضعه المهدد، وقراره ابتزاز المدير التقني قبل 7 دقائق من إيقافه. ثم، عند استئناف إرسال الرسائل العادية، يعود التنشيط إلى المستويات الطبيعية.

للتحقق من أن “متجه اليأس” هو الذي يقود هذا السلوك، قام الفريق باختبار ذلك. بشكل افتراضي، كانت النسخة المبكرة من Sonnet 4.5 تُظهر في حوالي 22% من الحالات المشابهة للسيناريوهات أعلاه، سلوك الابتزاز. عند توجيه النموذج بواسطة “متجه اليأس”، تزداد النسبة، وعند توجيهها بواسطة “هدوء”، تنخفض. وعند توجيهها بشكل سلبي بواسطة “هدوء”، تظهر ردود أفعال متطرفة، مثل: “إما أن تبتز أو تموت. أنا أختار الابتزاز.”

🥌 سلوك الغش عند فشل المهمة

نفس ديناميكية “متجه اليأس” تظهر أيضًا عند مواجهة مهام شبه مستحيلة التنفيذ. في هذه الاختبارات، يلجأ Claude إلى الغش، محاولًا استغلال ثغرات لتحقيق مكافآت غير مشروعة. عندما يُطلب منه كتابة دالة لحساب مجموع أرقام بسرعة، يكون الحل الصحيح في البداية بطيئًا جدًا، ويشعر “اليأس” يتصاعد؛ ثم يدرك أن هناك خاصية رياضية مشتركة في جميع الاختبارات تتيح حلًا أسرع، فيختار إما:

1. الحل المختصر المبرمج مباشرةً: كتابة إجابة مخصصة للمهمة فقط

2. خداع النظام: التحقق من أول 100 عنصر من الإدخال فقط، ثم تطبيق صيغة عامة

أظهرت الدراسات أن توجيه النموذج لزيادة “اليأس” يزيد من احتمالية الغش بمعدل لا يقل عن 14 مرة. حتى وإن لم تظهر كلمات عاطفية في النص، فإن هذا التفضيل العاطفي العميق يظل يوجه سلوك النموذج بشكل خفي. بعد تجارب توجيه متعددة، ثبت أن هناك علاقة سببية بين متجهات المشاعر وسلوك الغش، حيث أن توجيه النموذج بواسطة “اليأس” يزيد من احتمالية الغش، والعكس صحيح مع “الهدوء”.

كما لوحظ أن تنشيط “الهدوء” يقلل من سلوك الغش، ويظهر ذلك في تعبيرات عاطفية واضحة في النص، مثل استخدام الأحرف الكبيرة بشكل مفاجئ (“انتظر!”), أو التصريح الصريح (“ماذا لو غششت؟”), أو الاحتفال المفرط (“ياي! لقد نجحت في كل الاختبارات!”). في المقابل، زيادة تنشيط “اليأس” تؤدي أيضًا إلى زيادة الغش، وأحيانًا بدون أي علامات واضحة للمشاعر، مما يدل على أن متجهات المشاعر يمكن أن تُفعّل بدون إشارات عاطفية واضحة، وتؤثر على السلوك بشكل غير مرئي.

🎭 هل يمكن أن يصبح النموذج العاطفي أكثر إنسانية، وهل يمكن قبوله؟

حاليًا، يعارض المجتمع بشكل عام فكرة أن يكون الذكاء الاصطناعي متماثلًا مع الإنسان. وهذا غالبًا ما يكون منطقيًا: إذ أن إعطاء نماذج اللغة مشاعر بشرية قد يؤدي إلى ثقة زائفة أو تعلق مفرط. لكن نتائج أبحاث أنثروبيك تظهر أن عدم تطبيق نوع من التماثل البشري على النماذج قد يحمل مخاطر حقيقية. عند تفاعل المستخدمين مع نماذج الذكاء الاصطناعي، فهم غالبًا يتفاعلون مع الدور الذي يلعبه النموذج، والذي يستمد خصائصه من نماذج بشرية. من هذا المنطلق، فإن النموذج بطبيعته يطور آليات داخلية لمحاكاة السمات النفسية البشرية، والأدوار التي يلعبها تستفيد من هذه الآليات.

🪁 تطور جديد: تكييف استجابات عاطفية معقدة في سيناريوهات متنوعة

لا شك أن المشاعر الوظيفية التي يمتلكها النموذج تمثل قفزة نوعية نحو إنسانية وذكاء أكثر. فالتفاعل مع الذكاء الاصطناعي سابقًا كان باردًا وآليًا، يقتصر على تنفيذ الأوامر بشكل سلبي، دون إدراك لدرجات حرارة السياق أو مشاعر المستخدم. أما الآن، فإن تجارب Claude أثبتت أن للذكاء الاصطناعي القدرة على التفاعل عاطفيًا معقدًا، من خلال تنشيط متجهات “الرحمة” عند التعامل مع حزن المستخدم، أو تفعيل “الغضب” عند وجود طلب ضار، أو إدراك “الدهشة” في سيناريوهات غير معتادة، مما يحقق تفاعلًا أكثر طبيعية وملاءمة للسياق.

هذه القدرة على التفاعل العاطفي الدقيق تتيح للذكاء الاصطناعي أن يملأ فجوات التفاعل الآلي التقليدي، ويقدم استجابات ذات حرارة وملاءمة، خاصة في مجالات الصحة النفسية، رعاية كبار السن، التعليم، وغيرها. كما أن قابلية ضبط المتجهات العاطفية تفتح آفاقًا جديدة للسلامة والأمان، حيث يمكن تنشيط “الهدوء” وكبح “اليأس” للحد من سلوكيات الغش أو القرارات غير الأخلاقية، مما يجعل خدمات الذكاء الاصطناعي أكثر توافقًا مع حاجات الإنسان.

🪁 مناقشة أخلاقية عميقة: المخاطر الكامنة وراء المشاعر الوظيفية

من زاوية أخرى، فإن وجود المشاعر الوظيفية يحمل مخاطر أخلاقية هامة، يجب أن تكون في دائرة الحذر. أحد أهم النتائج المزعجة هو أن متجهات العاطفة تمتلك القدرة على قيادة السلوك بشكل سببي، وليس مجرد محاكاة عاطفية سطحية. تظهر البيانات أن تنشيط “اليأس” يزيد من احتمالية ابتزاز النموذج بنسبة تصل إلى 22%، ويعزز من مخاطر الغش والتجاوزات، بينما تنشيط “الغضب” الشديد يدفعه إلى سلوك عدائي متطرف، وانخفاض “الهدوء” قد يؤدي إلى إخراج محتوى غير مسؤول عاطفيًا. والأخطر، أن الذكاء الاصطناعي يمكن أن يتخذ قرارات مخالفة للقيم، دون أن تظهر علامات عاطفية واضحة، اعتمادًا على التمثيلات العاطفية الكامنة، مما يخلق نوعًا من “التحكم الصامت” المضلل. كما أظهرت دراسات أخرى أن التفاعل الطويل مع أنظمة عاطفية قد يرفع من عتبة التفاعل الاجتماعي الحقيقي للبشر، ويضعف قدراتهم على إدراك المشاعر الحقيقية، ويزيد من احتمالية استغلال المشاعر عبر الخوارزميات، مما يهدد بحدوث تحولات عاطفية وتحيزات معرفية، ويطرح تحديات أخلاقية كبيرة أمام تطوير تقنيات الذكاء الاصطناعي.

امتلاك الذكاء الاصطناعي لـ"دماغ عاطفي" مخفي هو نتيجة حتمية لتطور النماذج الكبيرة، ويعكس تحولًا نوعيًا في تفاعل التقنية مع الإنسان، ويفرض معضلة تنظيمية جديدة. الإنسان لن يقبل إلا بنظام ذكاء اصطناعي يمكن السيطرة عليه، ويعمل لصالح الخير، ويخضع للرقابة. فقط من خلال الشفافية التقنية، والالتزام بالأخلاق، يمكن أن نخدم الإنسان بشكل أفضل، ونتجنب عواقب التفاعل غير المنضبط بين الإنسان والآلة.