Доказательства для скучного ИИ

У гонке AI-бенчмарков есть победитель. Просто это не вы.

Каждые пару месяцев выходит новая модель — и новая таблица лидеров перемешивается. Лаборатории соревнуются, кто лучше рассуждает, кто лучше кодит и кто дает лучшие ответы в тестах, разработанных для измерения машинного интеллекта. Следуют охвату. Следует и финансирование.

Меньше внимания уделяется тому, неизбежно ли хоть что-то из этого. Бенчмарки, «гонка вооружений», подача ИИ как либо спасения, либо катастрофы — это выборы, а не законы физики. Они отражают, на чем отрасль решила оптимизировать, и что она решила финансировать. Технологии, которым десятилетия, чтобы проявиться в обычных, полезных сценариях, в этом квартале не приносят миллиарды. Зато экстремальные нарративы — приносят.

Некоторые исследователи считают, что сама цель поставлена неверно. Не в том смысле, что ИИ не важен, а в том, что «важное» не обязательно должно означать «беспрецедентное». Печатный станок изменил мир. И электричество тоже. Оба делали это постепенно — через хаотичное внедрение, давая обществам время отреагировать. Если ИИ пойдет по такому же пути, правильные вопросы — не про сверхразум. Они про то, кому это приносит пользу, кого это может навредить, и действительно ли инструменты, которые мы создаем, работают для людей, которые ими пользуются.

Многие исследователи задают эти вопросы с совершенно разных сторон. Вот трое из них.

Полезные, а не универсальные

Ручир Пури строит ИИ в IBM $IBM -0.57% еще до того, как большинство людей вообще слышало о машинном обучении. Он видел, как Watson обыграл лучших игроков в Jeopardy в мире в 2011 году. Он видел несколько циклов ажиотажа, взлетающих и откатывающихся назад. Когда пришла нынешняя волна, у него было простое испытание: полезно ли это?

Не впечатляет. Не универсально. Полезно.

«Я не очень-то забочусь об искусственном общем интеллекте», — говорит он. «Меня интересует полезная часть».

Такое framing ставит его в противоречие с образом отрасли — почти с ее самовосприятием. Лаборатории, бегущие к AGI, оптимизируют ради широты: они строят системы, которые могут делать что угодно, отвечать на что угодно и рассуждать о чем угодно. Пури считает, что это неверная цель, и у него есть бенчмарк, к которому он хотел бы, чтобы отрасль действительно пыталась приблизиться.

Человеческий мозг живет в 1 200 кубических сантиметрах, потребляет 20 ватт — это энергия лампочки — и, как отмечает Пури, работает на сэндвичах. Одна GPU Nvidia $NVDA +0.14% потребляет 1 200 ватт — в 60 раз больше, чем весь мозг, — и чтобы сделать что-то осмысленное, вам нужно тысячи таких GPU в огромном дата-центре. Если мозг — это бенчмарк, отрасль еще не близка к эффективности. Она движется в неверном направлении.

Его альтернатива — то, что он называет гибридной архитектурой: небольшие, средние и большие модели работают вместе, и каждой отводят задачу, с которой она справляется лучше всего. Большая модель на переднем крае занимается сложным рассуждением и планированием. Меньшие, специально предназначенные модели берут на себя выполнение. Такая простая вещь, как черновик письма, не требует системы, обученной на половине интернета. Ей нужно что-то быстрое, дешевое и сфокусированное. Примерно раз в девять месяцев, отмечает Пури, небольшая модель предыдущего поколения становится примерно эквивалентной тому, что раньше считалось «большой». Интеллект становится дешевле. Вопрос в том, кто-то строит под эту реальность.

У подхода есть реальная подтвержденная база. Airbnb $ABNB +1.49% использует более небольшие модели, чтобы быстрее решать значительную часть проблем с обслуживанием клиентов, чем это успевают его представители-люди. Meta $META -0.25% не использует свои самые большие модели, чтобы показывать рекламу; вместо этого она дистиллирует эти знания в меньшие модели, созданные строго для этой задачи. Схема настолько последовательна, что исследователи начали называть это конвейером сборки знаний: поток данных входит, специализированные модели обрабатывают дискретные шаги, а на выходе получается что-то полезное.

IBM строит этот конвейер дольше, чем большинство. Гибридный агент, объединяющий модели нескольких компаний, показал 45% улучшения производительности в рамках крупного инженерного коллектива. Системы, работающие на меньших, специально предназначенных моделях, теперь помогают инженерам, которые поддерживают обработку 84% всех финансовых транзакций в мире, получать нужную информацию в нужный момент. Это не «вау-приложения». И они тоже не проваливаются.

Ни одному из них не нужен механизм, который пишет поэзию или решает математику вашему ребенку. Им нужно более узкое — и, за счет этого, более надежное. Модель, обученная делать одно дело хорошо, знает, когда вопрос выходит за пределы ее компетенции. Она говорит об этом. Такая откалиброванная неопределенность — понимание того, чего вы не знаете, — вещь, с которой большие модели на переднем крае до сих пор борются.

«Я хочу строить агентов и системы для этих процессов», — говорит Пури. «Не что-то, что отвечает на два миллиона вещей».

Инструменты, а не агенты

У Бена Шнейдермана есть простой тест, который показывает, хорошо ли спроектирована AI-система. Человек, который ею пользуется, чувствует, что он что-то сделал, или ощущает, что с ним сделали что-то?

Важность этого различия больше, чем звучит. Шнейдерман, компьютерный ученый в Университете Мэриленда, который помог заложить основы современного дизайна интерфейсов, десятилетиями спорит о том, что цель технологий — усиливать человеческие возможности, а не заменять их. Хорошие инструменты создают то, что он называет самоэффективностью пользователя, — уверенностью, которая приходит от осознания: «я могу сделать это сам». Плохие — тихо переносят это агентство куда-то еще.

Он считает, что большая часть AI-индустрии строит плохие инструменты, и что агентный поворот делает это хуже. Подача AI-агентов такая: они действуют от вашего имени, выполняя задачи end to end без вашего участия. Для Шнейдермана это не фича. Это проблема. Если что-то пойдет не так — а так и будет — кто отвечает? Если что-то пойдет хорошо — чему тогда научились?

Ловушка, с которой он борется уже давно, имеет название. Антропоморфизм, импульс сделать технологию похожей на человека, — именно он продолжает побеждать и именно он продолжает проваливаться. В 1970-х банки экспериментировали с банкоматами, которые встречали клиентов фразой «Как я могу вам помочь?» и давали себе имена вроде Tilly the Teller и Harvey the World Banker. Их заменили машины, которые показывали вам три варианта: Balance, cash, deposit. Использование резко выросло. Citibank имел на 50% более высокую частоту использования, чем конкуренты. Людям не нужна синтетическая связь. Им нужно получить свои деньги.

Та же схема повторяется десятилетиями — от Microsoft $MSFT -0.16% Bob, AI-пина от Humane и волн гуманоидных роботов. Каждый раз антропоморфный вариант проигрывает и его заменяет что-то более «инструментальное». Шнейдерман называет это зомби-идеей. Она не умирает — она просто продолжает возвращаться.

Что отличается сейчас — так это масштаб и сложность. Текущее поколение AI он признает действительно впечатляющим — и, что особенно важно, неожиданно впечатляющим. Но впечатляющее и полезное — не одно и то же, и системы, спроектированные так, чтобы казаться человеческими, говорить «я», симулировать отношения, оптимизируются за неправильное качество. Вопрос, который он хочет, чтобы дизайнеры задавали, проще: это дает людям больше власти или меньше?

«В AI нет I», — говорит он. «И, по крайней мере, его не должно быть».

Люди, а не бенчмарки

У Карен Панетта есть простой ответ, почему разработка AI выглядит так, как она выглядит. Следуйте за деньгами.

Панетта — профессор электротехники и компьютерной инженерии в Туфтском университете и член IEEE. Она изучает этику AI и ясно видит, куда должна двигаться технология. Помогающие питомцы для пациентов с болезнью Альцгеймера, адаптивные инструменты обучения для детей с разными когнитивными стилями, мониторинг умного дома для пожилых людей, которые стареют на месте. Технология, чтобы сделать это хорошо, по ее словам, в основном уже существует. Инвестиций — нет.

«Людей не заботят бенчмарки», — говорит она. «Их волнует другое: будет ли это работать, когда я куплю? И реально ли это сделает мою жизнь проще?»

Проблема в том, что люди, которые получили бы наибольшую выгоду от хорошо спроектированного вспомогательного AI, одновременно и самые слабые кандидаты для убедительного «питча» венчурному капиталу. Система, которая трансформирует производственные процессы, снижает травматизм на рабочих местах и сокращает расходы на здравоохранение для сотрудников компании, дает понятную отдачу. Робот-компаньон, который сохраняет спокойствие и связь у пациента с Альцгеймером, требует совсем другой математики. Поэтому деньги идут туда, куда идут деньги, а те группы населения, которым есть больше всего что выиграть, продолжают ждать.

Что изменилось, говорит Панетта, так это то, что дорогие инженерные задачи наконец решаются в масштабе. Сенсоры дешевле. Батареи легче. Беспроводные протоколы распространены повсеместно. Те же инвестиции, которые построили промышленные роботы для заводских цехов, тихо сделали бытовую робототехнику жизнеспособной так, как это не было возможно пять лет назад. Путь от склада до гостиной короче, чем кажется.

Но у нее есть опасение, что ажиотаж вокруг этого перехода склонен перескакивать через важное. У физических роботов есть естественные ограничения. Вы знаете пределы силы. Вы знаете кинематику. Вы можете предвидеть, моделировать и проектировать вокруг того, как они будут падать/ломаться. Генеративный AI не дает таких гарантий. Он недетерминированный. Он «галлюцинирует». Никто полностью не разложил по карте, что происходит, когда вы помещаете его в систему, физически находящуюся в доме человека с деменцией, или в доме ребенка, который не может распознать, что что-то пошло не так.

Она видела, что случается, когда сенсор загрязняется и робот теряет пространственную осведомленность. Она думала о том, что значит создать нечто, которое учится интимным деталям жизни человека — его распорядку, когнитивному состоянию, моментам замешательства — а затем действует на основе этой информации автономно. По ее словам, механизмы отказоустойчивости не успели за этим.

«Я не переживаю из-за робота», — говорит она. «Я переживаю из-за AI».

📬 Подпишитесь на Daily Brief

Наше бесплатное, быстрое и веселое краткое обновление о мировой экономике — каждое утро в будние дни.

Подписаться