Заметив цікавий парадокс у тому, як ми оцінюємо сучасні мовні моделі. Вони звучать переконливо, відповідають впевнено, генерують тексти у величезних обсягах. Але в чому підступ — беглість мови це не те саме, що розуміння. Впевненість це не сприйняття дійсності.

Якщо розібратися в корені проблеми, то виходить досить стара історія. Пам’ятаєте платонівську пещеру? В’язні у ланцюгах бачать лише тіні на стіні і приймають їх за реальність, бо нічого іншого не знають. Ось точно така сама ситуація з мовними моделями, які ми створюємо зараз.

Ці системи не бачать світ. Вони його не чують, не торкаються, не відчувають. Все, що вони знають — це текст. Книги, статті, пости, коментарі, розшифровки. Текст це їхній єдиний вхід у світ. І текст це не сама реальність, а людський опис реальності. Опис неповний, упереджений, часто спотворений. В інтернеті і книгах є і геніальні ідеї, і відверта брехня, і пропаганда, і теорії змови. Мовні моделі навчаються на всьому цьому разом. Вони бачать лише тіні, які люди проєктують на стіну.

Багато років думали, що масштаб вирішить усе. Більше даних, потужніші моделі, більше параметрів — і проблема зникне. Але ні. Більше тіней на стіні це не рівнозначно реальності. Мовні моделі добре передбачають статистично ймовірне наступне слово, але вони не розуміють причинно-наслідкових зв’язків, фізичних обмежень, реальних наслідків дій. Ось чому галюцинації це не просто баг, який можна виправити. Це структурний дефект архітектури.

Саме тому увага все більше зміщується у бік світових моделей. Це системи, які будують внутрішні уявлення про те, як працюють процеси, навчаються на взаємодіях, симулюють результати перед дією. Замість питання «яке наступне слово?» вони питають «що станеться, якщо ми зробимо це?». Світові моделі не прив’язані лише до тексту. Вони можуть працювати з часовими рядами, сенсорними даними, зворотнім зв’язком, таблицями, симуляціями.

На практиці це виглядає так. У логістиці мовна модель може написати звіт про збій, а світова модель може змоделювати, як закриття порту або скачок цін на паливо поширюється по всьому ланцюгу поставок. У страхуванні та управлінні ризиками текстові системи пояснюють політики, але світові моделі вивчають, як ризик еволюціонує, симулюють екстремальні події, оцінюють каскадні втрати. Цифрові двійники фабрик — це вже ранні версії світових моделей. Вони не просто описують виробництво — вони симулюють взаємодію машин, матеріалів, термінів.

У всіх цих випадках мова корисна, але її недостатньо. Потрібна модель того, як реально веде себе система, а не лише опис того, як про неї говорять люди.

Переход від мовних моделей до світових моделей це не відмова від перших. Це правильне позиціонування. У наступній фазі мовні моделі стануть інтерфейсами і копілотами. Світові моделі забезпечать заземлення, передбачення, планування. Мова буде розташована поверх систем, які навчаються на самій реальності.

В алегорії Платона в’язні не звільняються, вивчаючи тіні уважніше. Вони звільняються, коли повертаються і бачать джерело цих тіней, а потім виходять із пещери у реальний світ. ІІ наближається до подібного моменту. Компанії, які це зрозуміють рано, перестануть приймати переконливу мову за розуміння і почнуть будувати архітектури, що моделюють їхню власну реальність. Не ІІ, який гарно говорить про світ, а ІІ, який справді розуміє, як він працює.