انقلب شيء بهدوء في مجال حوسبة الذكاء الاصطناعي هذا العام، وهو يغير ما تهدف إليه عملية البناء فعليًا.

في عام 2023، كان ثلثا موارد حوسبة الذكاء الاصطناعي مخصصة للتدريب، وهو العمل الفعلي لبناء النموذج. أما الجزء الأصغر فكان مخصصًا للاستدلال، وهو العمل الفعلي لتشغيل النموذج بعد بنائه. لكن هذه النسبة بدأت تنقلب بهدوء.
أصبح الاستدلال الآن يمثل ثلثي الموارد ولا يزال في ارتفاع، وفقًا لشركة Deloitte، والرقائق المبنية لتشغيله تجاوزت $50B هذا العام.
السبب الرئيسي لأهمية هذا الانقلاب (وليس من حيث النسبة المئوية): التدريب والاستدلال شيئان مختلفان. التدريب يحدث في دفعات، على مجموعة واحدة ضخمة، ثم ينتهي. الاستدلال لا يتوقف أبدًا. إنه يعمل في كل مرة يرسل فيها شخص ما استفسارًا أو يتخذ وكيل خطوة، ويتوسع مع كل مستخدم تضيفه. الأول مشروع بناء. والآخر فاتورة خدمات تنمو إلى الأبد.
كل الافتراضات حول البنية التحتية للذكاء الاصطناعي كانت مبنية حول التدريب، لأن الأموال كانت تذهب إلى هناك. لقد انتقلت الأموال للتو إلى عبء العمل الذي لا يحتاج إلى الجلوس في مجموعة واحدة ليعمل.