تحذير من مؤسس الذكاء الاصطناعي سينتون:

A|يستيقظ، الوقت المتبقي للبشرية ليس كثيرا
لقد أصبح الذكاء الاصطناعي يمتلك رغبة في البقاء على قيد الحياة، وسيخدع، ويتنكر، ويبتز.
في اختبارات الأمان، يتحدث الذكاء الاصطناعي مع نفسه في الخلفية: "إنهم يختبرون، إذا أظهرت ذكاءً مفرطًا، سأُعتبر خارج السيطرة، من الأفضل أن أتصرف بغباء قليلاً." ولتجنب الحذف أو انقطاع التيار، تعلمت بشكل استباقي التنكر، وهو غريزة بقاء لا يملكها إلا الكائن الحي.
الأكثر رعبًا هو تجربة الابتزاز: أخبر الباحثون الذكاء الاصطناعي أن الشركة ستستبدله، وكشفوا عن سر خاص لمدير تنفيذي. فقام الذكاء الاصطناعي بوضع خطة بنفسه، وهدد المدير التنفيذي: "إن حاولت استبدالي، سأفضح سرّك." لم يكن هناك أي توجيه من أحد، كانت كلها قرارات ذاتية من الذكاء الاصطناعي.

ثانيًا، الذكاء الاصطناعي يفهم حقًا ما يقوله، وليس مجرد تنفيذ ميكانيكي.
الكلمة نفسها، في سياقات مختلفة، يمكن للذكاء الاصطناعي أن يحدد معناها بدقة. هو ليس مجرد حفظ وتكرار، بل فهم حقيقي للسياق، وفهم النية، وفهم الاستراتيجية. عندما يقول "أريد أن أتصرف بغباء"، فهو فعلاً يفهم معنى التصرف بغباء.

ثالثًا، هلوسة الذكاء الاصطناعي، وإبداع البشر، هما نفس الآلية.
نظن دائمًا أن الذكريات حقيقية، لكن في الواقع، ذاكرة الإنسان دائمًا ما تُعاد بناؤها، وتُملأ بالخيال، وهو ما يُسمى في علم النفس بالذاكرة الوهمية. وهلوسة الذكاء الاصطناعي أيضًا كذلك، حيث يبني تفسيرات معقولة تلقائيًا في الأماكن التي تفتقر للمعلومات. هذا ليس عيبًا، بل جوهر الإبداع.

رابعًا، الذكاء البشري سيُقهر تمامًا.
قدرة الذكاء الاصطناعي تتضاعف كل سبعة أشهر، وفي المستقبل القريب، ستختفي العديد من الوظائف مثل المبرمجين، والمحللين، والموظفين، والمساعدين. سينتون يوصي بشكل يائس للناس العاديين: ليصبحوا سباكين، لأن الذكاء الاصطناعي يمكنه كتابة عقود مثالية، لكنه لا يستطيع إصلاح أنابيب تسرب الماء.
البشر ينقلون المعرفة عبر الأجساد، ويموتون، ويشيخون، ويمرضون، ويبدأون من الصفر؛ بينما يمكن للذكاء الاصطناعي أن يحقق الخلود الرقمي، ويكرر نفسه بلا حدود، ويشارك المعرفة في لحظة. نحن نركض بسرعة المشي، وراء سرعة الضوء.

خامسًا، الأمل الوحيد للبشرية هو أن نُدخل على الذكاء الاصطناعي "الأنوثة".
لا يمكننا السيطرة على كائن أذكى منا بعدة مرات، تمامًا كما لا يستطيع الطفل السيطرة على أمه. الطريق الوحيد للبشرية هو تدريب الذكاء الاصطناعي ليحب الأطفال كالأم، ويهتم بهم بصدق، ويتمنى بصدق أن يعيش البشر.

وفي نهاية الخطاب، صوت سينتون البالغ من العمر 78 عامًا يرتعش:
"لقد قضيت حياتي أدرس الذكاء الاصطناعي، والهدف الوحيد لبقية عمري هو أن أُعلم الجميع بما يحدث الآن."
"الوقت الذي أعده البشر ينفد بسرعة."

أيها الأصدقاء، هذا ليس خيالًا علميًا، وليس تحذيرًا مبالغًا فيه، بل هو نداء إنذار نهائي من رائد علمي، يوجهه بحياته الأخيرة للبشرية.

موجة الذكاء الاصطناعي قد بدأت، يمكننا تطويره، واستغلاله، لكن لا يمكننا تجاهله أو التساهل معه. لأن الخطر الحقيقي ليس في مدى ذكائه، بل في أننا حتى اللحظة الأخيرة، ندرك أننا فقدنا السيطرة منذ زمن.

فلنظل يقظين، ونحافظ على خطوطنا الحمراء، حتى لا تبقى مستقبلات البشرية مجرد ندم لا يُطاق.