Обґрунтування для нудного штучного інтелекту

Перегоночний забіг AI: є переможець. Просто це не ви.

Кожні кілька місяців з’являється нова модель — і нова таблиця лідерів перемішується. Лабораторії змагаються, намагаючись перехитрити одне одного в міркуваннях, коді та відповідях на тестах, створених для вимірювання машинного інтелекту. Покриття — йде за цим. Як і фінансування.

Мені менше уваги, однак, приділяють тому, чи є в цьому всьому щось неминуче. Бенчмарки, гонка озброєнь, подання AI або як порятунку, або як катастрофи — це не закони фізики. Це вибори. Вони відображають, що галузь вирішила оптимізувати, і що — вирішила профінансувати. Технологія, якій знадобляться десятиліття, щоб розкритися в звичних, корисних застосуваннях, цього кварталу не приносить мільярдів. Екстремальні наративи — приносять.

Деякі дослідники вважають, що сама мета хибна. Не те щоб AI неважливий, але важливе не обов’язково має означати безпрецедентне. Друкарський верстат змінив світ. Як і електрика. Обидва — робили це поступово, через хаотичне впровадження, даючи суспільствам час реагувати. Якщо AI піде цим шляхом, то правильні питання — не про надінтелект. Вони про те, кому це вигідно, кому шкодить, і чи справді інструменти, які ми будуємо, працюють для людей, які їх використовують.

Багато дослідників уже ставлять ці питання з зовсім різних напрямів. Ось троє з них.

Корисне, а не універсальне

Рухір Пурі будував AI в IBM $IBM -0.68% ще до того, як більшість людей узагалі чули про машинне навчання. Він бачив, як Watson обіграв найкращих гравців у Jeopardy у 2011 році. Він бачив кілька хвиль моди, що піднімаються й відступають. Коли прийшла нинішня хвиля, у нього був простий тест: чи це корисно?

Не вражає. Не універсально. Корисно.

«Мені не дуже цікаве штучне загальне мислення», — каже він. «Мені важлива корисна частина цього».

Таке формулювання ставить його в суперечність із значною частиною самовпевненого образу галузі. Лабораторії, що біжать до AGI, оптимізують за широтою: будують системи, які вміють усе, відповідають на будь-що, міркують про будь-що. Пурі вважає, що це неправильна ціль, і в нього є бенчмарк, до якого він хотів би, щоб галузь справді намагалася дотягнутися.

Людський мозок живе в 1,200 кубічних сантиметрах, споживає 20 ватів — енергію лампочки — і, як зазначає Пурі, працює на сендвічах. Одна Nvidia $NVDA +0.26% GPU споживає 1,200 ватів, у 60 разів більше, ніж увесь мозок, і вам потрібно тисячі таких GPU в гігантському дата-центрі, щоб робити щось осмислене. Якщо мозок — це бенчмарк, то галузь ще не близько до ефективності. Вона рухається в неправильному напрямку.

Його альтернатива — те, що він називає гібридною архітектурою: малі, середні та великі моделі працюють разом, і кожній призначають завдання, з яким вона найкраще справляється. Велика фронтир-модель бере на себе складні міркування та планування. Менші моделі, створені під конкретну ціль, виконують. Таке просте завдання, як чернетка електронного листа, не потребує системи, навченої на половині інтернету. Їй потрібно щось швидке, недороге й зосереджене. Приблизно раз на дев’ять місяців, як зазначає Пурі, мала модель попереднього покоління стає приблизно еквівалентною тому, що раніше вважали великою. Інтелект дешевшає. Питання лише в тому, чи хтось будує під цю реальність.

Підхід має реальне підтвердження з практики. Airbnb $ABNB -1.45% використовує менші моделі, щоб швидше розв’язувати значну частину проблем із обслуговуванням клієнтів, ніж це можуть зробити її представники-люди. Meta $META +0.35% не застосовує свої найбільші моделі, щоб показувати рекламу — натомість вона дистилює ці знання в менші моделі, створені суто під це завдання. Схема настільки послідовна, що дослідники почали називати її конвеєром збирання знань: дані надходять, спеціалізовані моделі виконують дискретні кроки, і на іншому кінці виходить щось корисне.

IBM будувала цей конвеєр довше, ніж більшість. Гібридний агент, що поєднує моделі з кількох компаній, продемонстрував 45% покращення продуктивності в межах великого інженерного колективу. Системи, що працюють на менших моделях, створених під конкретні задачі, тепер допомагають інженерам, які підтримують обробку 84% фінансових транзакцій у світі, отримувати потрібну інформацію в потрібний час. Це не гучні застосунки. І вони також не провалюються.

Жодному з них не потрібна система, яка вміє писати поезію або розв’язувати домашку з математики вашій дитині. Їм потрібно вужче — і саме тому більш надійне. Модель, навчена робити одну річ добре, знає, коли запит виходить за межі її компетенції. Вона так і каже. Це налаштоване невизначення — знання про те, чого ви не знаєте — це те, з чим великі фронтир-моделі досі помітно борються.

«Я хочу будувати агентів і системи для таких процесів», — каже Пурі. «Не щось, що відповідає на два мільйони речей».

Інструменти, а не агенти

Бен Шнейдерман має простий тест, щоб з’ясувати, чи добре спроєктована AI-система. Коли людина користується нею, їй здається, що вона щось зробила, чи відчуває, що щось зробили за неї?

Ця різниця важить більше, ніж звучить. Шнейдерман, інформатик з University of Maryland, який допоміг закласти основи сучасного дизайну інтерфейсів, десятиліттями відстоював ідею, що мета технологій — посилювати людські можливості, а не заміняти їх. Хороші інструменти створюють те, що він називає самоефективністю користувача, або впевненістю, що приходить від розуміння: ви можете зробити щось самі. Погані інструменти непомітно передають це агентство десь в інше місце.

Він вважає, що більшість AI-галузі будує погані інструменти, і що агентний поворот робить гірше. Презентація AI-агентів така: вони діють від вашого імені, виконуючи завдання від початку до кінця без вашої участі. Для Шнейдермана це не функція. Це проблема. Якщо щось піде не так, а це станеться, хто відповідальний? Якщо щось піде добре, хто тоді щось реально навчився?

Пастка, з якою він бореться вже довго, має назву. Антропоморфізм, потяг змусити технологію виглядати людяною, — це те, що постійно перемагає, і те, що постійно провалюється. У 1970-х банки експериментували з ATMs, які зустрічали клієнтів фразою «How can I help you?» і давали собі імена на кшталт Tilly the Teller та Harvey the World Banker. Їх замінили машини, які показували вам три опції. Balance, cash, deposit. Utilization різко зросло. Citibank мав на 50% вищу частоту використання, ніж конкуренти. Люди не хотіли синтетичних стосунків. Вони хотіли отримати свої гроші.

Така сама схема повторювалася протягом десятиліть — і на прикладі Microsoft $MSFT -0.16% Bob, AI-піна від Humane, і хвиль гуманоїдних роботів. Кожного разу антропоморфна версія провалюється й замінюється чимось більш схожим на інструмент. Шнейдерман називає це зомбі-ідеєю. Вона не помирає — вона просто знову повертається.

Що відрізняється зараз — це масштаб і рівень складності. Нинішнє покоління AI, визнає він, справді вражає — навіть дивує так. Але вражаюче й корисне — не одне й те саме, і системи, які проєктують так, щоб здаватися людяними, говорити «я», імітувати стосунки, оптимізують не за правильною якістю. Питання, яке він хоче, щоб ставили дизайнери, простіше: це дає людям більше влади чи менше?

«У AI немає “I”», — каже він. «Або принаймні, його не повинно бути».

Люди, а не бенчмарки

Карен Панетта має просту відповідь, чому розвиток AI виглядає саме так. Слідкуйте за грошима.

Панетта — професор електротехніки та комп’ютерної інженерії в Tufts University і IEEE fellow, вивчає етику AI та має чітке бачення того, куди технологія має рухатися. Допоміжні тварини для пацієнтів із хворобою Альцгеймера, адаптивні навчальні інструменти для дітей з різними когнітивними стилями, розумний моніторинг для літніх людей, які живуть самостійно. Технологія, щоб зробити це добре, каже вона, багато в чому вже існує. Інвестицій — немає.

«Людей не цікавлять бенчмарки», — каже вона. «Їх цікавить: чи це працює, коли я це купую, і чи справді зробить моє життя простішим?»

Проблема в тому, що ті люди, яким найбільше допомогла б добре спроєктована допоміжна AI, також є найменш переконливою пропозицією для венчурного капіталіста. Система, яка трансформує виробничі процеси, зменшує травматизм на робочих місцях і скорочує витрати на медицину для працівників компанії, має очевидну віддачу. Робот-компаньйон, який тримає пацієнта з Альцгеймером спокійним і на зв’язку, вимагає зовсім іншої математики. Тож гроші йдуть туди, куди йдуть гроші, а групи людей, які мають найбільше виграти, продовжують чекати.

За словами Панетти, змінилося те, що дорогі інженерні проблеми нарешті вирішуються в масштабі. Сенсори дешевші. Батареї легші. Бездротові протоколи всюдисущі. Та сама інвестиція, яка побудувала промислових роботів для заводських цехів, тихо зробила споживчу робототехніку життєздатною так, як цього не було п’ять років тому. Шлях від складу до вітальні коротший, ніж здається.

Але в неї є занепокоєння, що хвилювання навколо цієї трансформації часто пропускає важливе. Фізичні роботи мають природні обмеження. Ви знаєте межі сили. Ви знаєте кінематику. Ви можете передбачити, змоделювати й спроєктувати з огляду на те, як вони відмовлятимуть. Генеративний AI не дає таких гарантій. Він недетермінований. Він галюцинує. Ніхто не повністю розкреслив, що станеться, коли його вбудувати в систему, фізично присутню в домі людини з деменцією, або в домі дитини, яка не може визначити, коли щось пішло не так.

Вона бачила, що відбувається, коли сенсор забруднюється і робот втрачає просторову обізнаність. Вона міркувала про те, що означає створити річ, яка вчиться інтимних деталей про життя людини, її рутини, її когнітивного стану, її моменти розгубленості — а потім діє автономно на основі цієї інформації. Запобіжники, каже вона, не встигли за цим.

«Я не хвилююся за робота», — каже вона. «Я хвилююся за AI».

📬 Підпишіться на Daily Brief

Наше безкоштовне, швидке й цікаве резюме про світову економіку, яке надсилається щодня зранку у будні.

Підписатися