После того, как ИИ поглотит всё, что останется необучаемым?

Оригинальный заголовок: Невоспитуемый
Автор оригинала: Sarah Guo, Conviction
Перевод: Peggy, BlockBeats

Редакторский комментарий: Когда возможности ИИ продолжают стремительно развиваться, в инвестиционном сообществе появляется новая форма пессимизма: если модели становятся всё сильнее, все приложения в конечном итоге будут поглощены моделями Anthropic, OpenAI, Nvidia и подобными им, а рынок останется только передовыми моделями, вычислительными мощностями и немногими инфраструктурными компаниями. Но Sarah Guo считает, что эта оценка лишь частично верна. Те «тонкие оболочки» (то есть простое наложение оболочки на модели) действительно будут поглощены, а любые задачи, которые можно измерить с помощью benchmark (бенчмарка), обучить на открытых данных и проверить за низкую стоимость, также постепенно станут товаром.

Настоящая проблема в том: после того, как ИИ поглотит всё, что можно обучить, что останется неизученным?

Ответ на эту проблему — это те ценности, которые существуют внутри реальных организаций и которые трудно легко скопировать извне: корпоративные приватные данные, сложные рабочие процессы, доверие пользователей, системные разрешения, отраслевые суждения, соответствие нормативам и ответственность, а также накопленный опыт за долгие годы работы. Модели могут стать умнее, но не смогут автоматически войти в производственные системы банка; могут генерировать медицинские ответы, но не смогут сразу завоевать доверие врачей и пройти через процессы принятия решений в больнице; могут писать юридические тексты, но не смогут нести ответственность за них как опытные юристы и не смогут самостоятельно определить, что является квалифицированной юридической работой.

Поэтому будущие компании с действительно защищённой позицией в области ИИ — это не просто те, кто делает модели умнее, а те, кто глубоко погружаются в конкретную отрасль и выполняют сложную, но важную «переводческую» работу: превращают приватную реальность клиента, инструменты, процессы и стандарты оценки в системы, способные к действиям, и в долгосрочной перспективе постепенно формируют определение «что считается хорошим результатом». Чем сильнее становится ИИ, тем больше он обесценивает измеряемые и воспроизводимые задачи; и тем ярче проявляются те «необучаемые» вещи, которые связаны с историей, связями, разрешениями и профессиональным суждением. Именно это — истинная ценность, которая может сохраниться после поглощения моделей.

Ниже — оригинальный текст:

К середине 2026 года, версия «ИИ-ментального расстройства» у инвесторов — это отчаяние, основанное на мысли, что уже ничего не стоит инвестировать: кажется, что все деньги нужно вложить в Anthropic и Nvidia, а потом просто пойти спать. Но у меня никогда не было такого чувства. За несколько небольших обновлений я был уверен, что модели уже умнее меня; если купить акции Anthropic и Nvidia по рыночной цене, я бы с удовольствием это сделал; мои самые умные друзья тоже уверены, что самоусовершенствование моделей очень скоро станет реальностью — и всё равно у меня нет этого отчаяния.

Это отчаяние не глупое. Его логика такова: если модели будут постоянно становиться лучше во всём, то все компании, построенные на моделях, — это лишь тонкая оболочка, которая в конечном итоге будет поглощена моделями. И ценность, которая останется, — это только вычислительные мощности и веса передовых моделей.

На примере программного обеспечения — это самый яркий пример этого отчаяния. Когда Devin выпустил свою первую версию в 2024 году, она могла решить лишь 13% задач из стандартных бенчмарков, поэтому в целом её недооценивали рынком. Полтора года спустя, самый сильный агент достиг более 80% и начал работать с реальными задачами в Goldman Sachs и армии США. Почти все пришли к ошибочному выводу: модели поглотили софтверную инженерию.

Но когда модели поглотили самую легко измеряемую часть инженерии, мы начали заново осмысливать давно известные факты: инженерия всегда сопротивлялась измерениям, а самые важные её части — это не обязательно те, что легче всего измерить.

MIT-овский Mert Demirer и его коллеги наконец-то количественно подтвердили это: среди более 100 тысяч разработчиков, новая версия кодирующего агента увеличила объём написанного кода примерно на 180%, но реально внедрённого — всего на около 30%. Стоимость написания кода снизилась, но остальные этапы всё равно требуют участия человека, и эти этапы очень важны. Конечно, общий эффект всё равно впечатляющий.

Бенчмарки — это то, что можно измерить; а всё, что можно измерить, — это можно использовать для обучения. Поэтому агент для кодирования стал первым, кто достиг зрелости: компиляторы — бесплатные проверяющие, тестовые наборы — тоже бесплатные. Когда ответы можно почти без затрат проверять самостоятельно, можно постоянно совершенствовать систему, пока не достигнешь предела.

Но проверка через тесты никогда не означает, что изменение для уже существующего десятилетия кода обязательно правильно. В этом модуле могут быть три скрытых причины, о которых никто не написал. В pipeline могут работать cron-задания, которые никто не хочет признавать своими.

Эта правильность не читается в таблицах результатов и даже не может быть прямо прочитана из чего-либо. Можно только запустить такую сложную систему в реальных условиях на долгое время и понять, действительно ли она работает. А более умные модели не ускорят реальное функционирование. Никто не будет запускать юнит-тесты для такой огромной системы, как Google, и спокойно смотреть на зелёные галочки. Доверие возникает потому, что система выдержала годы реальной нагрузки.

Эта правильность — не только приватная, она — медленно формирующаяся «защищённая роща», которая не может быть быстро сжата капиталом. Даже оптимисты признают, что этот часовой механизм нельзя пропустить. Недавний пост Noam Brown из OpenAI говорит: чтобы оценить работу агента за год, нужно дать ему реально поработать год.

Как сказал Gabe Pereyra, настоящая автоматизация — это не только усиление моделей. Это изменение продукта, моделей, рабочих процессов и организации компании, и три из них движутся с одинаковой скоростью.

То, что действительно влияет — это те части, которые невозможно измерить: убедить скептически настроенного партнёра изменить подход, сохранить сплочённость команды во время перестройки. Поэтому при найме CEO мы ценим не только аналитические способности, но и умение работать с людьми. Умнее модели — это не главное.

Обратная связь здесь размытая, а доверие — это вопрос конкретного человека. В каждой компании уже используют передовые модели для инженеров, но ни одна команда не меняется так быстро, как модели. Внедрение инструментов занимает квартал — и это удивительно, ведь за этот короткий срок токенов можно было бы накопить много! Но полноценная перестройка занимает годы.

Работы, которые можно ясно увидеть, уходят. Настоящая ценность — это то, что структурировано сложно и трудно прочитать: всё, что можно вывести в таблицы и рейтинги, — это уже становится товаром, и всё измеряемое движется к товаризации. Этот процесс занимает время и никогда не завершится полностью, но направление — точно.

По словам моего друга, Matt MacInnis из Rippling, — это можно выразить в денежном эквиваленте: если токен используется только для ответа на универсальный вопрос, он почти ничего не стоит, потому что любой сможет ответить. Но если токен основан на данных вашей компании и используется для рассуждений, он гораздо ценнее, потому что делает то, что вам действительно нужно, а не просто генерирует правдоподобный ответ.

Работы, которые можно прочитать, исчезают с двух сторон.

Снизу — задачи насыщаются: как только какая-то работа становится легко проверяемой, покупатели перестают интересоваться, кто её сделал, и начинают спрашивать, сколько она стоит. Тогда эта работа переходит к самому дешевому открытоому или дистиллированному модели. Пока прибыль позволяет, это обязательно произойдет.

Сверху — лаборатории пытаются поглотить собственные инструменты. Маршрутизация между дешевыми и дорогими вызовами, использование инструментов, стратегии рассуждений — всё, что раньше было вне модели, сейчас интегрируется в веса модели, пока «оболочка» не превратится в саму модель. Это — граница поглощения.

Прибыль также действует и с другой стороны: универсальный агент должен быть готов к любой задаче, что дорого; узкоспециализированное приложение — оптимизировано для конкретного рабочего процесса и использует лишь малую часть токенов. В отличие от лабораторий, продающих токены, компании-заказчики могут оставить себе разницу.

Поэтому любой вид работы можно свести к двум вопросам: является ли её правильность приватной и дорогой, основанной на внутренних данных компании? Или она изолирована в системе, недоступной посторонним? В совокупности с уровнем насыщенности задач получается 2×2 матрица.

Работы, насыщенные и с открытыми ответами, — это товаризация токенов, их занимают open-source модели. Передовые, но с открытыми ответами — это место лабораторий, потому что при бесплатной оценке сама оценка не стоит ничего.

Истинный приз — это последний угол, «необучаемый» угол: передовые работы, где правильность существует только внутри приватных сред. Это видно на облачных платформах для AI-стартапов: большинство токенов создаются кастомными моделями, а не универсальными open-source.

Стена к этому последнему углу — высокая или низкая. Тестовые проекты разработчика — переносимые, стандартизированные, — туда легко попасть. Но производственные системы банка — это не переносимые, не стандартизированные системы. Вы не получите root-доступ, просто потому что умнее на 2% в SWE-Bench Verified.

Модели могут поглощать многое, но более сильные модели не превращают приватные стандарты в публичные. Они не имеют лицензий, не подписывают ответственность, не владеют корпоративными документами; если ответ ошибочен, они не могут быть привлечены к ответственности. Барьер — не интеллект, а разрешения и ответственность. Можно представить модель, умнее любую человека, но она всё равно должна иметь право входа, и за её действия должны отвечать люди.

Эта дверь заперта, и есть засов.

Замок — это среда: только после того, как внутри системы получено доверие, проведена проверка безопасности, завершена интеграция и подписан договор с ответственностью за результат, можно проверить, действительно ли ИИ сделал полезное дело.

Засов — это пользователь. Сегодня большинство американских врачей ежедневно используют OpenEvidence — это не то, что можно купить за любую вычислительную мощность. Лаборатория завтра сможет обучить идеальную медицинскую модель, но она всё равно не войдёт в привычку врачей и не попадёт в процессы принятия решений в UCSF. Доверие строится медленно, через отношения и согласие пользователей, а не через градиентное обучение, стирающее эти вещи.

Это и есть работа приложений. Чтобы приложение заняло место в «необучаемом» углу, нужны именно эти неприметные задачи: структурировать приватную реальность компании, чтобы модель могла действовать на её основе; дать модели инструменты для действий; вместе с клиентами менять реальные рабочие процессы.

Компания, способная выполнить такой «перевод», трудно копировать, и этот перевод никогда не завершится. Интеграция и обслуживание продолжаются вместе с отношениями с клиентами. Побеждают те команды, которые привносят в отрасль инженеров и инструменты, специализирующихся в конкретных сферах.

Например, в крупной старой юридической фирме ежегодно совершается около тысячи сделок по слияниям и поглощениям. Невозможно, чтобы сотни юристов-ассистентов скачивали файлы клиентов и передавали их универсальному агенту для анализа. Конфиденциальность уже запрещает так делать, не говоря о других проблемах. Даже если бы так можно было — это лишь фрагменты: один ассистент исправляет по чуть-чуть, никто не видит всей картины сделки.

Самые важные сигналы — это уровни сделок. У каждой сделки есть своя форма: для M&A — NDA, список условий, due diligence, договор купли-продажи, сопутствующие документы, список этапов. Для патентных споров — ходатайства, раскрытие доказательств, существующие технологии, новые ходатайства. В каждом бизнесе есть своя структура, и юристы с инструментами не могут просто обмениваться ими.

А настоящая задача этой фирмы — управлять всеми направлениями одновременно: как топ-партнёры управляют сотнями дел, привлекая новых клиентов и обучая помощников. Модернизировать такую компанию — не одна задача, которую можно решить одним тестом. Это — управление, как в «бейсбольных данных»: цели размыты, обратная связь неполная, цикл очень длинный, а среда постоянно меняется.

К сожалению, ценность, которая не поддаётся измерению, тоже трудно продавать, потому что её невозможно товаризировать: компания не может внешне судить, насколько ИИ реально улучшит её работу. Поэтому самые сильные компании перестают пытаться доказывать это извне и начинают внутри — и уже оценивают по результатам.

Sierra платит только тогда, когда её агент решает проблему клиента; если проблему передают человеку, она не платит. Поэтому цена становится механизмом оценки. И это работает, потому что Sierra сама определяет, что считать «решённым». Devin из Cognition делает то же самое — вводит «гарантию результата». Только когда вас доверяют внутри системы, вы можете гарантировать результат.

Даже в сфере токенов — то есть в том, что все называют товаром — их поведение не похоже на товар. Лучшие компании в области ИИ-стартапов сосредотачиваются на нескольких поставщиках, например Baseten или Fireworks. Потому что стоимость токена со временем становится товаром, но надёжность при реальном трафике и стабильное получение редких вычислительных ресурсов — нет. Где предоставлять сервис рассуждений и какие модели использовать — это два разных вопроса. Единственная часть, которая по-настоящему похожа на товар — это цена.

Распространённый аргумент — лаборатории — ваши поставщики, почему они не занижают цену, сбрасывают её ниже себестоимости и не вытесняют вас? Или просто отключают API и забирают рынок себе? Это — реальный источник такого отчаяния. Но он актуален только в случае, когда модели — это игра одного человека.

Очевидно, что это не так. Модели — это скорее гонка трёх с половиной участников, рядом есть международные игроки, отстающие примерно на полгода, и союз развития в пять раз больше прошлого года. Клиенты хотят конкуренции между поставщиками, а лаборатории — доли рынка, а не уничтожения конкретных приложений.

Это видно на рынке, где конкурируют лаборатории. В потребительских чатах лучшие модели никогда не побеждают всё сразу. ChatGPT остаётся лидером благодаря многолетней реальной конкуренции; его долю сейчас делят Gemini, а причина — возможности Android и поиска, а не лучшая модель. Anthropic считается лучшей в предсказаниях и интернет-обстановке, но в потребительских чатах почти не играет роли, а в бизнесе и кодировании занимает свою нишу.

Если даже лучшая модель не способна отобрать пользователей у конкурентов в ключевых приложениях, она вряд ли легко поглотит систему медицинских карт или систему ответственности банка. Сегодня выбор продукта определяется не только возможностями кодирования. Если передовые модели остаются узкоспециализированными, то их приложение в более широких слоях — это ценность.

Если задача не может быть оценена извне, то внутри должна быть команда, которая решает, что есть хороший ответ. И это — вся игра. Чем больше таких решений записано, тем больше они превращаются в бенчмарки. Harvey создал бенчмарк для юридической сферы, Sierra — для голосовых агентов. Право определять, что значит «хорошо» в конкретной области, есть у тех, кто уже использует её. Эти компании получили это право через реальные трудности внедрения.

Истинная оценка, определяющая поток денег, — приватная и формируется внутри компаний: что считается хорошей работой в конкретной сфере. И это ещё далеко не завершено, потому что глубина юридической практики намного превышает любые публичные тесты. OpenEvidence собирает, что есть безопасный клинический ответ.

Всё это — не столько «измерение» в полном смысле слова, сколько оценка того, что есть истинное и что хорошо. Эти оценки записываются, пока не станут стандартом для всех. Какие бы модели ни становились умнее, они не смогут произвольно писать эти стандарты, потому что эта роль — внутри конкретных областей.

Эта авторитетность обычно закрепляется там, где она уже есть. Опытные юристы пишут юридические стандарты. Определение безопасных клинических ответов — за врачами. Что значит «решён» — решает компания, которая уже имеет клиентов.

Границы поглощения продолжают расти, потому что мы постоянно учимся измерять всё больше работы, а измеряемое — поглощается. Необучаемое пространство постоянно сжимается под ногами тех, кто стоит на нём, поэтому нельзя остановиться, найдя точку защиты. Нужно постоянно идти туда, где ещё нельзя поставить оценку, и постоянно переоценивать риски.

На узких задачах, используя приватные данные и собственную систему оценки, можно достичь передовых результатов и превзойти универсальные модели в ключевых сценариях; такая специализированная модель становится частью защиты. Но если вы конкурируете по возможностям универсальных моделей, то это — война капиталов, и вы проиграете тем, у кого больше вычислительных ресурсов. Это — ловушка для компаний с поверхностным доступом и высокой читаемостью задач.

Когда компания решает ради выживания тренировать модели, превосходящие передовые, исход зачастую определяется масштабом дата-центров. В конечном итоге, не появляется отдельный чемпион, а компания продаётся тому, у кого больше мощностей.

Это — защита. А более сложная задача — нападение: сначала нужно решить, что именно строить. И я ищу это уже целый год, и нашёл всего три раза. Модель в этом помочь не может. Куда её направить — она сделает; но сказать, что именно стоит направлять, она не может. Нет бенчмарков для этого, и её нельзя натренировать.

Вот почему крупные компании не забирают всё: они защищают свои позиции, а новые идеи приходят от тех, кто раньше других заметил новые возможности. Возможно, намерение — это более редкий ресурс, чем вычислительная мощность.

Это отчаяние частично правдиво. Тонкие оболочки действительно поглощаются, и многие то, что кажется компанией, — это всего лишь оболочка. Но их оценка «что останется после поглощения» — ошибочна. Механизм ясен, конечная точка — нет.

Я ставлю на то, что направление — продолжит дешеветь, а ценность — уходить в те области, куда модели с текущими возможностями не доберутся. Необучаемое — это ценность с историей.

Поэтому стоит войти в одну из таких областей, выполнить ту самую сложную «переводческую» работу и начать формулировать, что такое «хорошо» там. Потому что кто-то обязательно это сделает. Самые цитируемые бенчмарки этого года — это карта, которая скоро станет бесполезной, и уведомление: некоторые потеряют право определять, что такое «хорошо».

[Ссылка на оригинал]

Кликните, чтобы узнать о вакансиях в BlockBeats

Присоединяйтесь к официальному сообществу BlockBeats:

Подписка в Telegram: https://t.me/theblockbeats

Группа в Telegram: https://t.me/BlockBeats_App

Официальный аккаунт в Twitter: https://twitter.com/BlockBeatsAsia