Доказательства для скучного ИИ

У ИИ-бенчмарк-гонки есть победитель. Просто это не вы.

Каждые пару месяцев появляется новая модель — и новая таблица лидеров перегруппировывается. Лаборатории соревнуются, чтобы перехитрить друг друга в рассуждениях, в коде и в ответах на тестах, предназначенных для измерения машинного интеллекта. За охватом следует. Следует и финансирование.

Меньше внимания уделяется тому, неизбежно ли все это. Бенчмарки, гонка вооружений, подача ИИ как либо спасения, либо катастрофы — это решения, а не законы физики. Они отражают, что отрасль решила оптимизировать, и что она решила финансировать. Технология, которой понадобится десятилетие, чтобы раскрыться в обычных, полезных формах, в этом квартале не приносит миллиарды. Зато это делают экстремальные нарративы.

Некоторые исследователи считают, что цель поставлена неправильно. Не в том смысле, что ИИ не важен, а в том, что «важное» не обязано означать «беспрецедентное». Печатный станок изменил мир. Изменило и электричество. И то, и другое происходило постепенно — через хаотичное внедрение, давая обществам время отреагировать. Если ИИ пойдет по этому шаблону, правильные вопросы будут не про сверхинтеллект. Они будут про то, кому это принесет пользу, кого это будет вредить и действительно ли создаваемые нами инструменты работают для людей, которые их используют.

Многие исследователи задают эти вопросы с самых разных сторон. Вот трое из них.

Полезное, а не универсальное

Рухир Пури строит ИИ в IBM $IBM еще до того, как большинство людей вообще слышали о машинном обучении. Он видел, как Watson обыграл лучших игроков в Jeopardy в мире в 2011 году. Он видел несколько циклов хайпа — как они взлетают и сходят на нет. Когда пришла нынешняя волна, у него было простое испытание: он полезен?

Не впечатляет. Не универсален. Полезен.

«Мне не очень важно искусственное общее интеллектоведение», — говорит он. «Мне важна полезная часть».

Такое позиционирование ставит его в противоречие с большей частью самопредставления отрасли. Лаборатории, бегущие к AGI, оптимизируют за широту: строят системы, которые умеют «все», отвечают «на все» и рассуждают «о чем угодно». Пури считает, что это неправильная цель, и у него есть бенчмарк, к которому он хотел бы, чтобы отрасль на самом деле попыталась прийти.

Человеческий мозг живет в 1,200 кубических сантиметрах, потребляет 20 ватт — энергию лампочки — и, как отмечает Пури, работает на сэндвичах. Одна GPU Nvidia $NVDA потребляет 1,200 ватт, в 60 раз больше, чем весь мозг, и вам нужно тысячи таких устройств в гигантском дата-центре, чтобы сделать что-то по-настоящему значимое. Если мозг — это бенчмарк, отрасль еще не близка к эффективности. Она движется в неправильном направлении.

Его альтернатива — то, что он называет гибридной архитектурой: малые, средние и большие модели работают вместе, и каждой назначают задачу, с которой она справляется лучше всего. Большая фронтир-модель берется за сложное рассуждение и планирование. Меньшие, заточенные под конкретную задачу модели отвечают за выполнение. Такая простая вещь, как черновик письма, не требует системы, обученной на половине интернета. Ей нужно что-то быстрое, дешевое и сфокусированное. Примерно раз в девять месяцев, — отмечает Пури, — малая модель предыдущего поколения становится примерно эквивалентной тому, что считали «большой». Интеллект становится дешевле. Вопрос в том, строит ли кто-то под эту реальность.

У подхода есть реальная практическая поддержка. Airbnb $ABNB использует меньшие модели, чтобы быстрее решать значительную долю проблем в обслуживании клиентов, чем это делают их человеческие представители. Meta $META не использует свои самые большие модели, чтобы показывать рекламу: вместо этого она дистиллирует это знание в меньшие модели, созданные строго под эту задачу. Паттерн настолько устойчив, что исследователи начали называть его «конвейером сборки знаний»: данные поступают, специализированные модели выполняют дискретные шаги, на выходе получается что-то полезное.

IBM строит этот конвейер дольше, чем большинство. Гибридный агент, объединяющий модели от нескольких компаний, показал прирост продуктивности на 45% на большой инженерной рабочей силе. Системы, работающие на меньших, заточенных под конкретные задачи моделях, уже помогают инженерам, которые поддерживают обработку 84% финансовых транзакций в мире, получать нужную информацию в нужное время. Это не приложения «с эффектом». И, что важно, они тоже не терпят провал.

Ни одному из них не требуется система, которая может писать поэзию или решать домашнюю математику вашего ребенка. Им нужно нечто более узкое — а значит, более надежное. Модель, обученная делать одно дело хорошо, понимает, когда вопрос выходит за рамки ее компетенции. Она так и говорит. Эта откалиброванная неопределенность — знание того, чего вы не знаете, — это то, с чем большие фронтир-модели все еще испытывают трудности.

«Я хочу строить агентов и системы для этих процессов», — говорит Пури. «Не что-то, что отвечает на два миллиона вещей».

Инструменты, а не агенты

У Бена Шнейдермана есть простой тест, чтобы понять, хорошо ли спроектирована система ИИ. Чувствует ли человек, который ее использует, что он сделал что-то сам, или ему кажется, что с ним что-то сделали?

Эта разница важнее, чем звучит. Шнейдерман, специалист по информатике из Университета Мэриленда, помог заложить основы современного дизайна интерфейсов, и десятилетиями доказывает, что цель технологий — усиливать человеческие возможности, а не заменять их. Хорошие инструменты, по его словам, создают то, что он называет «самоэффективностью пользователя»: уверенность, возникающую от осознания, что вы можете сделать что-то сами. Плохие инструменты тихо переносят это агентство куда-то еще.

Он считает, что большая часть индустрии ИИ строит плохие инструменты, и что «агентский поворот» делает хуже. Подача ИИ-агентов такова: они действуют за вас, выполняют задачи от начала до конца без вашего участия. Для Шнейдермана это не функция. Это проблема. Если что-то идет не так — а так и будет — кто отвечает? Если что-то идет правильно — чему кто-то научился?

Ловушка, с которой он борется уже долгое время, имеет название. Антропоморфизм — импульс делать технологии похожими на людей — это то, что продолжает побеждать и продолжает проваливаться. В 1970-х банки экспериментировали с банкоматами, которые встречали клиентов фразой «Как я могу вам помочь?» и давали себе имена вроде Tilly the Teller и Harvey the World Banker. Их заменили машины, показывающие вам три варианта: Balance, cash, deposit. Использование резко выросло. У Citibank было на 50% больше использования, чем у конкурентов. Люди не хотели синтетических отношений. Они хотели забрать свои деньги.

Та же схема повторялась десятилетиями: Microsoft $MSFT Bob, AI-пин от Humane и волны гуманоидных роботов. Каждый раз антропоморфная версия терпит неудачу и заменяется чем-то более похожим на инструмент. Шнейдерман называет это «зомби-идеей». Она не умирает — она просто снова возвращается.

Чем сейчас отличается ситуация, так это масштабом и сложностью. Текущее поколение ИИ, он признает, действительно впечатляет — удивительно так. Но впечатляющее и полезное — не одно и то же, и системы, которые проектируют так, чтобы казаться человеческими, говорить «я», имитировать отношения, оптимизируют не за тем качеством. Вопрос, который он хочет, чтобы дизайнеры задавали, проще: людям это дает больше силы или меньше?

«В ИИ нет «я», — говорит он. — По крайней мере, его не должно быть».

Люди, а не бенчмарки

У Карен Панетта есть простой ответ на вопрос, почему разработка ИИ выглядит именно так. Следуйте за деньгами.

Панетта — профессор электротехники и компьютерной инженерии в Tufts University и член IEEE. Она изучает этику ИИ и четко представляет, куда технология должна идти. Помогающие питомцы для пациентов с болезнью Альцгеймера, адаптивные инструменты обучения для детей с разными когнитивными стилями, умный мониторинг дома для пожилых людей, которые живут «на месте». Технология, чтобы сделать это хорошо, — говорит она, — в основном уже существует. Инвестиций — нет.

«Людей не заботят бенчмарки», — говорит она. «Их волнует: работает ли это, когда я это покупаю, и реально ли это облегчит мою жизнь?»

Проблема в том, что люди, которые больше всего выиграют от хорошо спроектированного помогающего ИИ, также являются самыми слабым аргументом для венчурного капиталиста. Система, которая трансформирует производственные процессы, снижает травматизм на рабочем месте и сокращает расходы на здравоохранение для сотрудников компании, имеет очевидную отдачу. Робот-компаньон, который удерживает спокойствие пациента с болезнью Альцгеймера и помогает ему оставаться на связи, требует совершенно другого вида математики. Поэтому деньги идут туда, куда идут деньги, а популяции, которым есть больше всего чем выиграть, продолжают ждать.

Что изменилось, говорит Панетта, так это то, что дорогие инженерные проблемы наконец решаются в масштабе. Сенсоры дешевле. Батареи легче. Беспроводные протоколы вездесущи. Та же инвестиция, которая построила промышленных роботов для заводских цехов, тихо сделала потребительскую робототехнику жизнеспособной так, как это не было пять лет назад. Путь от склада до гостиной короче, чем кажется.

Но ее беспокоит, что ажиотаж вокруг этого перехода склонен перескакивать через кое-что. У физических роботов есть естественные ограничения. Вы знаете предельные силы. Вы знаете кинематику. Вы можете предвидеть, симулировать и проектировать с учетом того, как они будут выходить из строя. Генеративный ИИ не поставляется с такими гарантиями. Он недетерминирован. Он галлюцинирует. Никто не полностью нанес на карту, что происходит, когда вы помещаете его внутрь системы, физически присутствующей в доме человека с деменцией, или ребенка, который не может понять, когда что-то пошло не так.

Она видела, что происходит, когда сенсор пачкается и робот теряет пространственную осведомленность. Она думала, что значит создать нечто, которое учится интимным деталям жизни человека — его распорядку, его когнитивному состоянию, моментам замешательства, — а затем автономно действует на основе этой информации. Предохранительные механизмы, — говорит она, — не поспевают.

«Я не переживаю из-за робота, — говорит она. — Я переживаю из-за ИИ».

📬 Подпишитесь на Daily Brief

Наша бесплатная, быстрая и увлекательная подборка о мировой экономике, доставляемая каждое утро в будний день.

Подписаться