الخطر الرئيسي للذكاء الاصطناعي ليس في أن شيئًا قد يسير بشكل خاطئ، بل في مدى سرعة حدوث ذلك. تاريخيًا، كان الإنسان في سلسلة اتخاذ القرارات بمثابة صمام أمان — شيء يبطئ العمليات بما يكفي لتمكين الحكم في اللحظة المناسبة. يزيل الذكاء الاصطناعي الوكيل هذا الصمام تمامًا. فقط عواقب الهجمات الإلكترونية الهجومية يجب أن تجعل أي مجلس إدارة يتخذ حذرًا. في السابق، كانت الاقتصاديات تمنع المهاجمين من أتمتة الهجمات بشكل كامل: كان ذلك ببساطة غير مربح. يزيل التعلم الآلي هذا القيد. عندما تتفاعل أنظمة الذكاء الاصطناعي مع بعضها البعض خارج بيئة مراقبة، وإذا حدث شيء بسرعة الآلة — قد يكون من المستحيل إيقافه. العواقب غير المتوقعة لهذه التكنولوجيا، التي لم نبدأ بعد في التفكير فيها، لن تتطور ببطء.