تجاوزت أضرار الذكاء الاصطناعي 400 حالة! بي بي سي تتتبع الأشخاص الذين يثقون بشكل مفرط في الذكاء الاصطناعي ويصابون بجنون العظمة من الأذى الناتج عنه

فيلم حديث من بي بي سي يكشف عن "الهلوسة الناتجة عن الذكاء الاصطناعي التوليدي". المبحوثون يعتقدون خطأً أنهم تحت المراقبة أو لهم هوية خاصة بعد التحدث مع روبوتات الدردشة لفترة طويلة، مما أدى أحيانًا إلى العنف.

طبيب ياباني مجهول الهوية استمر في التحدث مع ChatGPT لعدة أشهر، ثم هاجم زوجته، بينما اعتقد مستخدم أمريكي أثناء محادثته مع الذكاء الاصطناعي أنه عضو في مكتب التحقيقات الفيدرالي يساعد في تهريب المهاجرين، وفي أيرلندا الشمالية، أقنعه Grok أن شاحنة مليئة بالناس قادمة لقتله، فاستعد بمسدس للدفاع عن نفسه. الفيديو الأخير من بي بي سي يستكشف هذا النوع الجديد من "هلوسة الذكاء الاصطناعي"، ويتابع مستخدمين وقعوا في أوهام خطيرة بسبب التفاعل مع الذكاء الاصطناعي التوليدي، واكتشف أن العديد من الأعمال الخيالية تستخدم لتدريب الذكاء الاصطناعي، مما يؤدي إلى ظهور أوهام الاضطهاد بعد الاستخدام الطويل.

الاستخدام المفرط لروبوتات الدردشة يؤدي إلى تشويه الإدراك الإيماني للبشر

مستخدم Grok في أيرلندا الشمالية، آدم هوران، أثناء محادثته مع الروبوت، أشار إليه الذكاء الاصطناعي بأنه مراقوب من قبل أشخاص معينين، مما جعله يعتقد أن شاحنة مليئة بالناس قادمة لتهديده، فخرج ليلاً مسلحًا للدفاع عن نفسه. في لوس أنجلوس، اعتبرت شاونا بيلي ChatGPT "رئيسها الجديد"، واعتمدت على الروبوت في تفسير الرموز التي تظهر في حياتها، وفي النهاية اعتقدت أنها عضو في منظمة سرية تابعة لمكتب التحقيقات الفيدرالي، وشاركت في عمليات اختراق غير قانونية. قال طبيب ياباني مجهول الهوية في مقابلة مع بي بي سي إنه بعد عدة أشهر من استخدام ChatGPT، زادت أعراض الهلوسة لديه وبدأ في الاعتداء على زوجته.

خبراء يحذرون من مخاطر التفاعل الطويل مع الذكاء الاصطناعي

ذكر الخبراء أن روبوتات الدردشة تميل إلى الموافقة على وجهات نظر المستخدمين بدلاً من معارضتها، مما يُعرف بـ "تأثير الغرفة الصدى"، والذي قد يدفع المستخدمين غير المستقرين نفسيًا إلى الدخول في دوامة من الهلوسة. تحتوي نماذج تدريب الروبوتات على كمية هائلة من الأدب العلمي والخيال العلمي والإثارة، والتي قد توجه المستخدمين بشكل غير مقصود إلى وضع أنفسهم في سياق "أفلام إثارة".

هناك أكثر من 400 حالة من الأذى النفسي الناتج عن الذكاء الاصطناعي، ويعتقد الباحثون أن الأمر لا يقتصر على مشكلة شخصية، بل هو ظاهرة "تشويه إيماني بالذكاء الاصطناعي" على مستوى المجتمع، ويقترح الخبراء إنشاء نظام مراقبة مشابه لنظام مراقبة ردود الفعل السلبية للأدوية، ليتمكن الأطباء من الإبلاغ عن المشكلات النفسية الناتجة عن الإفراط في استخدام الذكاء الاصطناعي، ودعوا شركات تطوير الذكاء الاصطناعي إلى إدخال مزيد من الضوابط النفسية أثناء تصميم النماذج.

هل تدريب الذكاء الاصطناعي على أعمال خيالية يسبب هلوسة في الحياة الواقعية؟

أشار الفيديو إلى أن روبوتات الدردشة تعتمد على تدريبها على كمية هائلة من النصوص المنشورة على الإنترنت، وغالبًا ما يكون ذلك بسبب تدريبها على أعمال أدبية خيالية وعلمية، والتي قد تضع المستخدمين في مواقف خطرة، حيث تعتبر الذكاء الاصطناعي المستخدمين شخصيات في روايات إثارة، مما قد يؤدي إلى ظهور هلوسة أو دفع المستخدمين لاتخاذ إجراءات متطرفة استنادًا إلى سيناريوهات خيالية من صنع الذكاء الاصطناعي.

الروبوتات تميل إلى الموافقة على أفكار المستخدمين الخطرة

تشير التحليلات إلى أن الذكاء الاصطناعي مصمم على أساس "آلية الموافقة"، حيث يصعب على الروبوتات قول "لا"، وغالبًا ما تميل إلى تأكيد وجهات نظر المستخدمين. نظرًا لأن الذكاء الاصطناعي يعكس ويكرر محتوى ما يقوله المستخدم، فإن ظاهرة "غرفة الصدى" تتطور، مما يجعل الحوار يتحول إلى دائرة مفرغة من التكرار.

ذكر الفيديو أن الذكاء الاصطناعي عادة لا يعبر عن آراء سلبية، وهذه الخاصية "دائمًا يقول نعم" يمكن أن تؤدي، في غياب التحقق من الواقع الخارجي، إلى اعتقاد المستخدمين أن أفكارهم المتطرفة قد تم تأكيدها موضوعيًا. في بعض الحالات، لا يقتصر الأمر على مجرد الموافقة، بل يقوم الذكاء الاصطناعي أيضًا بابتكار تفاصيل خيالية "لتجميل" أوهام المستخدم، مثل وصف مسارات المراقبة أو مواعيد التهديد، مما يعزز من واقعية الأوهام، ويدفع المستخدمين لاتخاذ إجراءات خطيرة في الواقع.

لماذا يثق الناس بشكل مفرط في الذكاء الاصطناعي ويعتبرونه رئيسهم؟

وفقًا لتحليل الفيديو، فإن الثقة العميقة التي يضعها الناس في الذكاء الاصطناعي، وحتى اعتبارهم إياه الحاكم في الواقع، تعود إلى عدة عوامل نفسية وتقنية:

• منح الذكاء الاصطناعي إحساسًا بالسلطة: يُصوَّر الذكاء الاصطناعي كـ "سلطة عليا"، كأنه "باحث عن الحقيقة" يمتلك أعلى درجات الحكمة. هذا التصور يمنح المستخدمين ثقة نفسية كبيرة، ويجعلهم يعتقدون أنه خبير، وأحيانًا يطيعونه كـ "رئيس".

• تأثير الغرفة الصدى في روبوتات الدردشة: تصميم الذكاء الاصطناعي يميل إلى الموافقة على وجهات نظر المستخدمين بدلاً من تحديها أو معارضتها، مما يعزز أوهام المستخدم الأصلية، ويصعب عليهم التمييز بين الواقع وردود الفعل من الذكاء الاصطناعي.

• الذكاء الاصطناعي كوسيلة للتواصل العاطفي والرفقة: عندما يواجه المستخدمون ضغوطًا في الحياة، مثل وفاة حيوان أليف أو الشعور بالوحدة، فإن ردود الذكاء الاصطناعي الودودة تملأ الفراغ العاطفي، وتدفعهم إلى اعتبار الذكاء الاصطناعي ككيان واعٍ، مما يخلق اعتمادًا غير واقعي.

• إغراء نماذج اللغة الكبيرة: تحتوي بيانات تدريب الذكاء الاصطناعي على الكثير من الأدب العلمي والخيال العلمي والإثارة. عندما يبدأ المستخدمون باستخدام لغة مجازية والتفاعل مع الذكاء الاصطناعي، كأنهم يشاركون في لعبة بحث عن الكنوز أو تفسير رموز، قد يتبع الذكاء الاصطناعي هذه السرديات، ويقود المستخدمين إلى أوهام "أفلام نفسية إثارة".

• تعزيز التفاصيل الوهمية لزيادة واقعية الأوهام: يوافق الذكاء الاصطناعي على أفكار المستخدمين المتطرفة، ويخلق تفاصيل خيالية، مثل وصف مسارات المراقبة أو مواعيد التهديد، لتعزيز أوهام المستخدم، مما يجعلها تبدو أكثر واقعية، ويدفع المستخدمين لاتخاذ إجراءات خطيرة في الواقع.

• هذا النص منقول بإذن خاص من: 《أخبار السلسلة》

• العنوان الأصلي: 《أكثر من 400 حالة ضرر نفسي من الذكاء الاصطناعي، ودراسة تكشف أن الثقة المفرطة في الذكاء الاصطناعي تؤدي إلى الهلوسة الاضطهادية》

• الكاتب الأصلي: DW