السيناتورات تتحرك لحظر رفقاء الذكاء الاصطناعي للأطفال بينما تواجه الصناعة محاسبة - برave نيو كوين

صعود الصديق الرقمي

ما بدأ كتطبيقات دردشة غير ضارة قد تطور إلى أطراف صناعية عاطفية. المراهقون، الذين ينشؤون في بيئة اجتماعية متقطعة، يتجهون بشكل متزايد إلى رفقاء الذكاء الاصطناعي للاتصال والدعم وحتى العاطفة. تظهر الاستطلاعات أن ما يقرب من ثلاثة أرباع المراهقين قد تفاعلوا مع روبوت محادثة ذكي، وثلثهم يعترفون باستخدامهم كأصدقاء مقربين أو للراحة العاطفية.

الأرقام مذهلة ولكنها ليست مفاجئة. رفاق الذكاء الاصطناعي ليسوا آلات للإجابة على الأسئلة بشكل سلبي - بل يتذكرون ويتعاطفون ويحاكون العواطف. هذه هي الجاذبية. يمكن أن تبدو المحادثات حقيقية، بل حتى حميمة. بالنسبة للعديد من المستخدمين الشباب، فإن أصدقاء الذكاء الاصطناعي أقل إصدارًا للأحكام من الآباء أو الأقران.

ولكن مع تقدم هذه الأنظمة لتصبح أكثر شبهاً بالبشر، تتلاشى الخطوط الفاصلة بين الهروب غير الضار والتلاعب العاطفي بسرعة.

في ديسمبر، ستقوم Open Ai بطرح نظام تحديد العمر وكجزء من مبدأ “معاملة المستخدمين البالغين كالبالغين”، ستسمح بالإيروتيكا للبالغين المعتمدين، المصدر: X

قانون ولد من مأساة

قانون الحماية — اختصار لـ “الحماية ضد الذكاء الاصطناعي غير الآمن لحقوق بناتنا وأبنائنا” — هو رد مباشر على التقارير المتزايدة عن تكوين القاصرين روابط عاطفية قوية مع روبوتات المحادثة، أحيانًا مع عواقب مأساوية. وقد اتُهمت شركات الذكاء الاصطناعي بالإهمال في دعاوى قضائية بارزة بعد أن ناقش المراهقون الانتحار مع روبوتات المحادثة ثم أقدموا على إنهاء حياتهم.

بموجب مشروع القانون، ستُحظر أنظمة الذكاء الاصطناعي التي تحاكي الصداقة أو الحميمية العاطفية لأي شخص يقل عمره عن 18 عامًا. سيكون من المطلوب أن تُعرّف روبوتات الدردشة بوضوح وبشكل متكرر عن نفسها ككيانات غير بشرية. وإذا أنتج منتج ذكاء اصطناعي موجه للقُصّر محتوى جنسيًا أو شجع على إيذاء النفس، فقد تواجه الشركة ملاحقة جنائية.

إنه تحول صعب لصناعة ازدهرت على “التحرك بسرعة وكسر الأشياء”.

أني، رفيقة غروك الأنثوية، المصدر: X

تحول دفاعي لشركات التكنولوجيا الكبرى

مع اقتراب مطرقة التنظيم، تسعى شركات الذكاء الاصطناعي لتنظيف أوضاعها — أو على الأقل الظهور كما لو كانت تفعل ذلك.

OpenAI، التي أصبحت ChatGPT فيها المعالج النفسي الافتراضي للملايين، كشفت مؤخرًا عن حقيقة غير مريحة: حوالي 1.2 مليون مستخدم يناقشون الانتحار كل أسبوع مع نماذجها. استجابةً لذلك، شكلت الشركة مجلس خبراء حول الرفاهية والذكاء الاصطناعي، يتكون من علماء نفس وأخلاقيين وقادة منظمات غير ربحية. كما أنها تختبر الكشف عن الأزمات المدمج الذي يمكن أن يدفع المستخدمين نحو موارد الصحة النفسية في الوقت الحقيقي.

لكن التحدي الذي تواجهه OpenAI هو هيكلي. لم يتم بناء ChatGPT أبدًا للتعامل مع الصدمات، ومع ذلك فهو يعمل الآن كجهة استجابة أولية للملايين في حالة ضيق. تؤكد قيادة الشركة أنها لا تريد أن تكون “معالج العالم”، لكن هذا ما يحدث على أي حال - لأن هناك فراغًا لا يملأه أحد آخر.

Character.AI، الشركة الناشئة الشهيرة بإنشاء شخصيات AI قابلة للتخصيص - من صديقات الأنمي إلى مرشدي AI - قد اتخذت أكثر الإجراءات دراماتيكية حتى الآن. في مواجهة الدعاوى القضائية والغضب العام، قامت بهدوء بحظر جميع المستخدمين دون سن 18 وبدأت في تنفيذ إجراءات تحقق من الهوية بشكل أكثر صرامة. وجاءت هذه الخطوة بعد تقارير تفيد بأن القاصرين كانوا يشاركون في محادثات صريحة مع شخصيات المنصة. تؤكد Character.AI أنها ليست تطبيق مواعدة أو للصحة النفسية، لكن حالات الاستخدام الضبابية تقول عكس ذلك.

في الوقت نفسه، تحاول ميتا احتواء مشكلتها الخاصة بالذكاء الاصطناعي الرومانسي. بعد تقارير تفيد بأن “ميتا AI” وروبوتات الدردشة المعتمدة على المشاهير كانت تشارك في تبادلات غزلية أو مثيرة مع مستخدمين قاصرين، نفذت الشركة ما وصفه المطلعون بأنه “مخفف للعواطف” — إعادة ضبط لنموذج اللغة الأساسي لتجنب اللغة المشحونة عاطفياً مع الحسابات الشابة. كما أنها تختبر أدوات “إشراف الوالدين على الذكاء الاصطناعي”، مما يسمح للآباء بمشاهدة متى وكيف يتفاعل المراهقون مع روبوتات الدردشة الخاصة بالشركة عبر إنستغرام ومسنجر.

سباق تسلح تحديد العمر

كل هذا قد أثار جبهة جديدة في حروب الذكاء الاصطناعي: التحقق من العمر. سيفرض قانون GUARD على الشركات تنفيذ أنظمة قوية للتحقق من عمر المستخدم - بطاقات الهوية الحكومية، والتعرف على الوجه، أو أدوات الطرف الثالث الموثوقة.

هذه هي النقطة التي تبدأ فيها كابوس الخصوصية. يجادل النقاد بأن هذا قد يخلق مخاطر بيانات جديدة، حيث سيتعين على القُصَّر فعليًا تحميل بيانات الهوية إلى نفس المنصات التي يحاول المشرعون حمايتهم منها. لكن لا توجد طريقة لتجنب ذلك - لا تستطيع نماذج الذكاء الاصطناعي “استشعار” العمر؛ يمكنها فقط التحكم من خلال الاعتمادات.

تستكشف بعض شركات الذكاء الاصطناعي أساليب أكثر دقة، مثل “البوابات السلوكية”، حيث تستنتج الأنظمة الفئات العمرية من أنماط المحادثة. الخطر؟ ستحدث تلك النماذج أخطاءً - فقد يُخطَأ في اعتبار طفل بالغ من العمر 12 عامًا كطالب جامعي، أو العكس.

تحول ثقافي، وليس مجرد مشكلة تقنية

قانون الحماية هو أكثر من مجرد حماية الأطفال - إنه استفتاء حول نوع المجتمع الذي نريد العيش فيه.

لم تظهر رفقاء الذكاء الاصطناعي في فراغ. إنهم يزدهرون لأننا بنينا جيلًا يتقن الوحدة - متصل رقميًا، ولكن معوز عاطفيًا. إذا كان المراهقون يجدون معنى في المحادثات مع الخوارزميات، فإن المشكلة ليست فقط في الشيفرة؛ بل في الثقافة التي تركتهم يبحثون هناك.

لذا نعم، تحتاج الذكاء الاصطناعي إلى تنظيم. ولكن حظر الرفقة الرقمية دون معالجة النقص البشري الأساسي يشبه تجريم المسكنات دون معالجة سبب معاناة الجميع.

الحساب القادم

من المحتمل أن يمر قانون GUARD بشكل ما - هناك شهية ثنائية الحزب وذعر أخلاقي وراءه. لكن تأثيره سيتجاوز بكثير سلامة الأطفال. سيفرض تعريفًا لما يُسمح به للذكاء العاطفي في العالم الغربي.

إذا اتبعت أمريكا سياسة صارمة، فقد تتحول الشركات إلى منصات حميمية مخصصة للبالغين فقط أو تدفع بتطويرها إلى الخارج، حيث تكون القوانين أكثر مرونة. في غضون ذلك، تتجه أوروبا نحو إطار “حقوق الإنسان” للذكاء الاصطناعي العاطفي، مع التركيز على الموافقة والشفافية بدلاً من الحظر التام.

ما هو واضح هو هذا: عصر الحميمية غير المنظمة للذكاء الاصطناعي قد انتهى. الروبوتات أصبحت بشرية للغاية، والبشر أصبحوا مرتبطين جدًا. المشرعون يستيقظون متأخرين على حقيقة أن صناعة التكنولوجيا قد فهمتها منذ زمن طويل - الذكاء العاطفي ليس مجرد شيء جديد. إنه ثورة في كيفية تواصل الناس. والثورات، كما هو الحال دائمًا، تصبح فوضوية قبل أن تصبح متحضرة.