IOSG: Каков выход из однородной инфраструктуры WEB3 + AI?

Автор: IOSG

Слишком длинно; не читал

Сочетание Web3 и AI стало важной темой в мире шифрования валют, и строительство AI инфраструктуры в мире шифрования становится процветающим. Однако фактическое использование AI или приложений, построенных на AI, остается небольшим, и проблема гомогенности AI инфраструктуры становится все более заметной. Последнее финансирование в рамках первого раунда RedPill, в котором мы принимали участие, вызвало более глубокое понимание.

Основными инструментами для создания приложений на искусственном интеллекте (AI Dapp) являются доступ к Децентрализация OpenAI, сеть GPU, инференс-сеть и прокси-сеть.

Причина того, что сеть GPU более популярна, чем во время майнинга BTC, заключается в следующем: рынок искусственного интеллекта больше и растет быстро и стабильно; искусственный интеллект поддерживает миллионы приложений каждый день; искусственному интеллекту требуются разнообразные модели GPU и серверные местоположения; технология более зрелая, а аудитория более широкая.

Развертывание собственной модели опытными разработчиками является основным назначением рассуждающих сетей, которые имеют схожую инфраструктуру с сетями-агентами, но с разными установленными приоритетами. В то время как для запуска моделей, не являющихся моделями LLM, не обязательно наличие GPU, рассуждающие сети предназначены преимущественно для развертывания собственных моделей опытными разработчиками. Сети-агенты, напротив, более сфокусированы на моделях LLM, где разработчикам не требуется иметь собственную модель, а вместо этого акцентируется внимание на инженерии подсказок и объединении различных агентов. Сети-агенты всегда требуют высокопроизводительного GPU.

Проекты по базовой инфраструктуре искусственного интеллекта обещают огромный потенциал и продолжают выпускать новые функции.

Многие проекты по шифрованию all still находятся в стадии Тестовая сеть, имеют плохую стабильность,复杂ная настройка, ограниченные функции, и им нужно время, чтобы доказать их безопасность и конфиденциальность.

Предположим, что AI Dapp станет большим трендом, и есть много неразработанных областей, таких как мониторинг, инфраструктура, связанная с RAG, нативные модели Web3, встроенныйшифрованиенный API и Децентрализация агентов данных, оценка сети и т. д.

Вертикальная интеграция - это заметный тренд. Инфраструктурные проекты стремятся предоставить все услуги на одной платформе, чтобы упростить работу разработчиков AI Dapp.

Будущее будет гибридным. Часть рассуждений будет происходить на фронте, а часть будет вычисляться в блокчейне, что позволит учесть факторы стоимости и проверяемости.

Источник: IOSG

Введение

Сочетание Web3 и искусственного интеллекта является одной из самых востребованных тем в области шифрования. Талантливые разработчики строят инфраструктуру искусственного интеллекта для шифрования, стремясь внедрить умные контракты. Создание AI Dapp - крайне сложная задача, с которой разработчики должны справляться, включая работу с данными, моделями, вычислительной мощностью, операциями, развертыванием и интеграцией с блокчейном.

Для удовлетворения этих потребностей основатели Web3 уже разработали многочисленные первоначальные решения, такие как сеть GPU, маркировка данных сообщества, модели обучения сообщества, верифицируемый вывод и обучение AI, а также магазин агентов. Однако на фоне этой процветающей инфраструктуры на самом деле не так много применений AI или приложений, созданных для AI.

Разработчики, ищущие учебные пособия по созданию AI Dapp, обнаружили, что существует немного материалов, связанных с шифрованием базовой инфраструктуры искусственного интеллекта, и большинство учебных пособий касаются только вызова OpenAI API в клиентской части.

Источник: IOSG Ventures

Текущее приложение не раскрывает весь потенциал Децентрализация и проверки функциональности блокчейна, но это скоро изменится. В настоящее время большинство инфраструктур искусственного интеллекта, сосредоточенных на шифровании, уже запустили тестовую сеть и планируют официальный запуск в течение следующих 6 месяцев. Это исследование подробно рассмотрит основные инструменты, доступные в инфраструктуре искусственного интеллекта в области шифрования. Давайте готовиться к моменту запуска GPT-3.5 в шифрованном мире!

1. RedPill: предоставляет Децентрализация авторизацию для OpenAI

Упомянутая ранее наша инвестиция в RedPill - отличная отправная точка. У OpenAI есть несколько мировых мощных моделей, таких как GPT-4-vision, GPT-4-turbo и GPT-4o, которые являются предпочтительными для создания передового Dapp искусственного интеллекта. Разработчики могут интегрировать их в Dapp через API OpenAI, вызывая его через Машина Oracle или фронтендный интерфейс.

RedPill объединяет API OpenAI разных разработчиков в одном интерфейсе, предоставляя быстрый, экономичный и проверяемый сервис искусственного интеллекта для пользователей по всему миру, демократизируя доступ к лучшим ресурсам моделей искусственного интеллекта. Маршрутизатор Алгоритм RedPill направит запросы разработчиков к одному контрибьютору. Запросы API будут выполняться через его распределенную сеть, обходя возможные ограничения от OpenAI, решая некоторые распространенные проблемы, с которыми сталкиваются разработчики, такие как: 01928374656574839201

• Throttling TPM (Token Per Minute): Новый счет ограничил использование Токена для удовлетворения потребностей популярных и зависимых от ИИ Dapps.

• Ограничение доступа: некоторые модели устанавливают ограничения на доступ к новому счету или доступ в определенные страны.

Путем использования того же кода запроса, но с заменой имени хоста, разработчики могут получить доступ к модели OpenAI с низкими затратами, высокой масштабируемостью и без ограничений.

2. сеть GPU

Помимо использования API OpenAI, многие разработчики также выбирают самостоятельное хостинг модели на своем домашнем компьютере. Они могут использовать децентрализованную сеть GPU, такую как io.net, Aethir, Akash и другие популярные сети, чтобы создать и развернуть кластер GPU и запускать различные мощные модели с открытым исходным кодом или внутренние модели.

Такие сети GPU, как Децентрализация, могут использовать вычислительную мощность отдельных лиц или небольших центров обработки данных, обеспечивая гибкую настройку, больший выбор серверов и более низкие затраты. Это позволяет разработчикам легко проводить эксперименты по искусственному интеллекту в рамках ограниченного бюджета. Однако из-за децентрализованной природы таких сетей GPU существуют определенные ограничения по функциональности, доступности и конфиденциальности данных.

В течение последних нескольких месяцев спрос на графические процессоры был взрывным, превысив предыдущий бум майнинга BTC. Причины этого явления включают:

Число целевых клиентов возрастает, сеть GPU теперь обслуживает разработчиков искусственного интеллекта, их количество не только огромно, но и более лояльно, не подвержено Колебанию цен на Криптоактивы.

По сравнению с майнинговым оборудованием, GPU Децентрализация предоставляет больше моделей и спецификаций, которые лучше соответствуют требованиям. Особенно для обработки больших моделей требуется больший объем VRAM, а для малых задач есть более подходящие варианты GPU. В то же время, GPU Децентрализация может обслуживать конечных пользователей на более коротких расстояниях, что снижает задержку.

Технологии становятся все более зрелыми, сети GPU зависят от высокоскоростных блокчейнов, таких как Solana, виртуализации Docker и вычислительных кластеров Ray.

В аспекте инвестиционной отдачи рынок искусственного интеллекта расширяется, появляется множество возможностей для разработки новых приложений и моделей, ожидаемая доходность модели H100 составляет 60-70%, в то время как майнинг Биткойн является более сложным, где побеждают сильнейшие, и ограничен объем добычи.

BTC Майнинг компании, такие как Iris Energy, Core Scientific и Bitdeer, также начали поддерживать сеть GPU, предоставлять услуги искусственного интеллекта и активно покупать специально разработанные для искусственного интеллекта GPU, такие как H100.

Рекомендуется: для разработчиков Web2, которые не очень ценят SLA, io.net предлагает простой и удобный опыт, является очень выгодным выбором.

Это является основой шифрования нативной инфраструктуры AI. В будущем она будет поддерживать миллиарды операций AI вывода. Многие слои AI layer1 или layer2 предоставляют разработчикам возможность нативного вызова вывода AI в блокчейне. Лидеры рынка включают Ritual, Valence и Fetch.ai.

Эти сети различаются в следующих аспектах: производительность (задержка, время вычисления), поддерживаемые модели, проверяемость, цена (стоимость использования в блокчейне, стоимость вывода), опыт разработки.

3.1 Цель

Идеальным сценарием является возможность для разработчиков легко получать доступ к настраиваемым службам интеллектуального анализа данных через любые формы доказательств в любом месте без практических препятствий. Сеть анализа предоставляет все необходимые основы для разработчиков, включая генерацию по требованию и доказательство валидации, вычисление рассуждений, реле и проверку данных, предоставление интерфейсов для Web2 и Web3, одношаговое развертывание моделей, мониторинг системы, кросс-чейн взаимодействия, синхронную интеграцию и плановое выполнение.

С помощью этих функций разработчики могут интегрировать услуги рассуждения без проблем в свои существующие смарт-контракты. Например, при создании торгового робота для Децентрализованных финансов, эти роботы будут использовать модели машинного обучения для поиска моментов покупки и продажи определенных торговых пар и выполнять соответствующие стратегии торговли на базовой торговой платформе.

В идеальном состоянии вся инфраструктура является облачной. Разработчику нужно только загрузить свою модель торговой стратегии в универсальном формате, таком как torch, и хранилище выводных сетей будет предоставлять модель для запросов веб-2 и веб-3.

После завершения всех этапов развертывания модели разработчики могут вызывать вывод модели непосредственно через API Web3 или вызов смарт-контракта. Сеть вывода будет постоянно выполнять эти торговые стратегии и обратную связь результатов в основной смарт-контракт. Если объем средств, управляемых разработчиком в сообществе, является значительным, также потребуется проверка результатов вывода. Получив вывод, смарт-контракт будет осуществлять торговлю на основе этих результатов.

3.1.1 Асинхронный и синхронный

В теории асинхронное выполнение операций рассуждений может обеспечить лучшую производительность; однако, такой подход может быть неудобен для разработчика. При использовании асинхронного подхода разработчику необходимо сначала отправить задачу в умный договор инференции сети. После завершения задачи инференции умный договор сети вернет результат. В этом программном режиме логика разделена на две части: вызов рассуждений и обработку результата рассуждений.

Если у разработчика есть вложенные вызовы вывода и большое количество управляющей логики, ситуация может ухудшиться.

Асинхронный режим программирования делает его сложным для интеграции с существующими смарт-контрактами. Это требует от разработчиков написания большого количества дополнительного кода, обработки ошибок и управления зависимостями. В то же время синхронное программирование более интуитивно понятно для разработчиков, но оно вводит проблемы во времени ответа и дизайне блокчейна. Например, если входные данные представляют собой быстро изменяющиеся данные, такие как время блока или цена, то после завершения推理 данные уже не будут свежими, что может привести к откату выполнения смарт-контракта в определенных случаях. Представьте, что вы торгуете по устаревшей цене.

Большинство базовых инфраструктур ИИ используют асинхронную обработку, но Valence пытается решить эти проблемы.

3.2 реальная ситуация

На самом деле, множество новых сетей рассуждения все еще находятся на стадии тестирования, таких как сеть Ritual. Согласно их открытым документам, функциональность этих сетей в настоящее время ограничена (такие возможности, как проверка, доказательство и т. д., еще не запущены). Вместо предоставления облачной инфраструктуры для поддержки вычислений искусственного интеллекта в блокчейне, они предлагают фреймворк для самостоятельного размещения вычислений искусственного интеллекта и передачи результатов в блокчейн. Это архитектура для выполнения токена AIGC в блокчейне. Модель распространения генерирует токен AIGC и загружает его в Arweave. Сеть рассуждения будет выполнять этот токен AIGC с использованием адреса Arweave в блокчейне.

Этот процесс очень сложный, разработчики должны сами развертывать и обслуживать большую часть инфраструктуры, такую как узел Ritual с пользовательской логикой обслуживания, узел Stable Diffusion и смарт-контракт Невзаимозаменяемый токен. Рекомендуется: На данный момент интеграция и развертывание пользовательских моделей в сети вывода AI довольно сложны, и на этом этапе большинство сетей еще не поддерживают функцию проверки. Применение технологии AI на фронтенде предоставит разработчикам относительно простой выбор. Если вам действительно нужна функция проверки, Giza, поставщик ZKML, является хорошим выбором.

4. Сеть агентов

Сеть агентов позволяет пользователям легко настроить свои агенты. Эта сеть состоит из сущностей или смарт-контрактов, которые могут самостоятельно выполнять задачи, взаимодействовать друг с другом и взаимодействовать с блокчейн-сетью, без прямого вмешательства человека. Она ориентирована на технологию LLM. Например, она может предоставить чат-бота GPT, который глубоко понимает Ethereum. На данный момент этот чат-бот имеет ограниченные возможности, и разработчики не могут создавать на его основе сложные приложения.

Однако в будущем сеть агентов будет предоставлять агентам больше инструментов, чем просто знания, включая возможность вызова внешних API и выполнения определенных задач. Разработчики смогут соединять несколько агентов для создания рабочего процесса. Например, написание умного контракта Solidity потребует участия нескольких специализированных агентов, включая Протокол-дизайнера, агента по разработке Solidity, агента по проверке безопасности кода и агента по развертыванию Solidity.

Мы координируем сотрудничество этих агентов с помощью подсказок и сценариев. Некоторые примеры агентских сетей включают Flock.ai, Myshell, Theoriq. Рекомендуем: Большинство современных прокси имеют относительно ограниченные возможности. Прокси-серверы Web2 лучше подходят для конкретных случаев использования и имеют зрелые инструменты оркестровки, такие как Langchain и Llamaindex.

5 Различия между сетью агентов и сетью рассуждений

Сеть агентов больше ориентирована на LLM и предоставляет инструменты, такие как Langchain, для интеграции нескольких агентов. Обычно разработчикам не нужно лично разрабатывать модели машинного обучения, процесс разработки и развертывания модели упрощен в сети агентов. Им просто нужно связать необходимых агентов и инструменты. В большинстве случаев конечные пользователи будут использовать эти агенты напрямую.

Сеть рассуждения является инфраструктурой поддержки агентной сети. Она предоставляет разработчикам более низкий уровень доступа. В обычных условиях конечный пользователь не использует прямо сеть рассуждения. Разработчики должны развернуть свои собственные модели, что не ограничивается только LLM, и они могут использовать их через точки доступа вне блокчейна или в блокчейне. Агентская сеть и сеть рассуждения не являются полностью независимыми продуктами. Мы уже начали видеть некоторые вертикальные интегрированные продукты. Они предоставляют возможности агента и рассуждения одновременно, поскольку эти две функции зависят от схожей инфраструктуры.

6. Новые возможности Помимо модельного вывода, обучения и агентских сетей, в области web3 также есть много новых областей, заслуживающих исследования:

Набор данных: как преобразовать данные Блокчейн в набор данных, используемый для обучения машин? Разработчики машинного обучения нуждаются в более конкретных и специализированных данных. Например, Giza предоставляет некоторые высококачественные наборы данных о Децентрализованные финансы, специально для обучения машинного обучения. Идеальные данные должны быть не только простыми таблицами, но и должны включать графические данные, описывающие взаимодействие мира Блокчейн. В настоящее время у нас есть недостатки в этой области. Некоторые проекты в настоящее время решают эту проблему, поощряя создание новых наборов данных людьми, например, Bagel и Sahara, обещающие защиту конфиденциальности персональных данных.

Хранение модели: некоторые модели имеют большой объем, поэтому ключевым является их хранение, распространение и контроль версий, что влияет на производительность и стоимость в блокчейне машинного обучения. В этой области уже были сделаны прогрессивные проекты, такие как FIL, AR и 0g.

Обучение моделей: распределенное и верифицируемое обучение моделей является сложной задачей. Gensyn, Bittensor, Flock и Allora уже достигли значительных успехов. Мониторинг: поскольку вывод модели происходит как в блокчейне, так и вне него, нам требуется новая инфраструктура, которая поможет разработчикам web3 отслеживать использование моделей, своевременно обнаруживать возможные проблемы и отклонения. С помощью подходящих инструментов мониторинга разработчики машинного обучения web3 могут оперативно корректировать и постоянно улучшать точность моделей.

RAG инфраструктура: Для распределенной RAG требуется совершенно новая инфраструктурная среда с высокими требованиями к хранению, встроенным вычислениям и векторной базе данных, при этом необходимо обеспечить конфиденциальность данных. Это сильно отличается от текущей инфраструктуры Web3 AI, где большинство зависит от сторонних поставщиков, таких как Firstbatch и Bagel, для выполнения RAG.

Модель, специально разработанная для Web3: не все модели подходят для сценариев Web3. В большинстве случаев необходимо повторно обучать модели, чтобы адаптировать их к конкретным приложениям, таким как прогнозирование цен, рекомендации и т. д. С развитием инфраструктуры искусственного интеллекта мы ожидаем, что в будущем появится больше локальных моделей web3 для обслуживания приложений искусственного интеллекта. Например, Pond разрабатывает блокчейн GNN для прогнозирования цен, рекомендаций, выявления мошенничества и противодействия отмыванию денег в различных сценариях.

Оценка сети: оценка агента без обратной связи человека является непростой задачей. С распространением инструментов создания агентов на рынке появится бесчисленное количество агентов. Это требует системы, которая будет отображать способности этих агентов и помогать пользователям определить, какой агент показывает лучшие результаты в конкретных ситуациях. Например, Neuronets - один из участников в этой области.

Механизм консенсуса: для задач искусственного интеллекта PoS не всегда является оптимальным выбором. Сложность вычислений, трудности верификации и отсутствие детерминированности - основные проблемы, с которыми сталкивается PoS. Bittensor создал новый умный Механизм консенсуса, вознаграждающий Узлы, вносящие вклад в модели машинного обучения и их выводы в сеть.

7. Перспективы будущего

Мы наблюдаем текущий тренд вертикальной интеграции. Путем создания базового вычислительного слоя сеть может поддерживать различные задачи машинного обучения, включая обучение, вывод и агентские сетевые сервисы. Эта модель предлагает всеобъемлющее решение на одной платформе для разработчиков машинного обучения Web3. В настоящее время вывод в блокчейне хотя и требует высокие затраты и медленный процесс, но предоставляет превосходную возможность проверки и безупречную интеграцию с бэкэнд-системами, такими как смарт-контракты. Я считаю, что будущее лежит на пути гибридных приложений. Часть вывода будет обрабатываться на клиентской стороне или вне блокчейна, а ключевые и решающие выводы будут выполняться в блокчейне. Эта модель уже используется на мобильных устройствах. Она позволяет быстро выполнять локальные небольшие модели и переносить более сложные задачи в облако для обработки на более мощных серверах.