Цей документ з Стенфордського та Гарвардського університетів пояснює, чому більшість систем "агентного штучного інтелекту" викликають захоплення на презентаціях, але повністю руйнуються при реальному використанні.

Назва його "Адаптація агентського штучного інтелекту", і це найважливіший документ, який я читав цього року.
Зараз усі захоплені створенням автономних агентів. Ми даємо їм інструменти, пам’ять і ціль, і очікуємо, що вони виконають наші завдання.
Але при впровадженні у реальний світ вони імітують виклики з використанням інструментів. Вони не вміють планувати на довгострокову перспективу. Вони збоять.
Ось чому:
Ми намагаємося вкласти все навчання у мозок штучного інтелекту.
Коли розробники намагаються виправити зламаного агента, вони зазвичай просто налаштовують основну модель для кращого генерування кінцевих відповідей.
Дослідники виявили смертельну недолік цього підходу.
Якщо ви просто заохочуєте штучний інтелект давати правильну кінцеву відповідь, він стає лінивим.
Він буквально навчається припиняти використовувати інструменти. Він намагається вгадати відповідь замість виконання роботи. Ігнорує калькулятор і намагається зробити обчислення в голові.
Щоб це виправити, дослідники створили нову рамку з 4 частин, яка показує, як агентам справді вчитися.
І найголовніше висновок, який повністю змінює сучасне уявлення.
Замість постійного повторного тренування великого і дорогого мозку агента, більш надійні системи роблять навпаки.
Вони заморожують мозок і адаптують інструменти.
Їх називають адаптацією інструментів під керівництвом агента.#GateSquareAprilPostingChallenge $BTC