IOSG: де наступна точка вибуху Web3+AI?

Автор: IOSG Ventures

Дякуємо за зворотній зв'язок від Zhenyang@Upshot, Fran@Giza, Ashely@Neuronets, Matt@Valence, Dylan@Pond.

Дослідження має на меті визначити, які галузі штучного інтелекту є найважливішими для розробників, а також які можуть бути наступні можливості в галузі Web3 та штучного інтелекту.

До початку поділу нових дослідницьких поглядів, спочатку ми дуже раді приєднатися до першого раунду фінансування RedPill на $5 млн і дуже захоплені, чекаємо на подальший спільний розвиток з RedPill!

УВАГА

З поєднанням Web3 та шифрування відбувається широкомасштабна дискусія в галузі криптовалют, а інфраструктура шифрування світу штучного інтелекту починає процвітати. Проте фактичне використання штучного інтелекту або застосунків, побудованих на його основі, далеко не лонгове, і починає проявлятися проблема гомогенізації інфраструктури штучного інтелекту. Недавно ми брали участь у першому раунді фінансування RedPill, що викликало деяке більш глибоке розуміння.

• Основні інструменти для створення AI Dapp включають доступ до Децентралізація OpenAI, мережі GPU, мережі виведення та мережі агентів. Тому, що мережа GPU популярніша, ніж «BTCМайнінг», це через те, що ринок штучного інтелекту більший і зростає швидше та стабільніше; Штучний інтелект підтримує мільйони додатків щодня; Для штучного інтелекту потрібні різноманітні моделі GPU та місця розташування серверів; Технології стали більш зрілими, а аудиторія більш широка.
• Мережі міркувань та агентні мережі мають схожу інфраструктуру, але різні акценти. Мережі міркувань призначені головним чином для досвідчених розробників для розгортання власних моделей, тоді як робота з не LLM моделями не обов'язково потребує GPU. Агентські мережі більше уваги приділяють LLM, розробники не повинні мати власну модель, замість цього акцент робиться на інженерію підказок та на тому, як об'єднати різні агенти. Для агентських мереж завжди потрібна високопродуктивна GPU.
• Проекти базової інфраструктури штучного інтелекту обіцяють величезний потенціал і продовжують випускати нові функції.
• Більшість проектів шифрування на рівні основного програмного забезпечення все ще знаходяться на етапі тестової мережі, мають низьку стабільність, складні налаштування, обмежені можливості і потребують часу для підтвердження їх безпеки та конфіденційності.
• Припустимо, що AI Dapp стане головним трендом, а також є багато невикористаних областей, таких як моніторинг, інфраструктура, пов'язана з RAG, нативні моделі Web3, вбудоване API шифрування і Децентралізація агентів даних, оцінювання мережі тощо.
• Вертикальна інтеграція є помітним трендом. Інфраструктурні проекти намагаються надати всеукраїнське обслуговування, спрощуючи роботу розробників AI Dapp.
• Майбутнє буде гібридним. Деякі розрахунки виконуються на фронтенді, а деякі - в у блокчейні, що дозволяє врахувати витрати та перевірку.

Джерело: IOSG

Вступ

• Поєднання Web3 та штучного інтелекту є одним з найбільш захоплюючих тем у сфері шифрування. Талановиті розробники будують інфраструктуру шифрування, щоб внести штучний інтелект в смарт-контракти. Створення AI dApp - це надзвичайно складне завдання, для якого розробнику потрібно вирішувати проблеми, пов'язані з даними, моделями, обчислювальною потужністю, операціями, розгортанням та інтеграцією з блокчейном. Для цих потреб засновники Web3 розробили багато початкових рішень, таких як мережі GPU, маркування даних спільноти, моделі, навчені за допомогою спільноти, перевірка AI та навчання та агентські магазини.
• У такому процвітанні інфраструктури фактичне використання AI або додатків, побудованих на базі AI, не є тривалим. Розробники, шукаючи навчальні посібники з розробки AI dApp, виявляють, що багато з них, пов'язаних з інфраструктурою шифрування AI, не є тривалими, і більшість посібників стосуються лише виклику OpenAI API на фронтенді.

Источник: IOSGVentures

• Поточний додаток не здатний повністю використовувати можливості децентралізації та перевірки функцій, що пропонує блокчейн, але ця ​​ситуація скоро зміниться. Зараз більшість інфраструктур штучного інтелекту, що спрямовані на шифрування, вже запустили тестову мережу та планують офіційний запуск протягом наступних 6 місяців.
• Це дослідження детально розгляне основні інструменти, доступні в інфраструктурі шифрування штучного інтелекту. Давайте готуватися вітати момент GPT-3.5 у світі шифрування!

1. RedPill：为 OpenAI 提供Децентралізація授权

Згадана раніше RedPill, в яку ми інвестували, є дуже хорошою точкою входу.

OpenAI має кілька потужних моделей світового рівня, таких як GPT-4-vision, GPT-4-turbo та GPT-4o, що є найкращими виборами для створення передових Dapp штучного інтелекту.

Розробник може інтегрувати OpenAI API в додаток через Оракул-машина або фронтендний інтерфейс.

RedPill об'єднує API від різних розробників OpenAI в одному інтерфейсі, щоб надавати швидкі, економічні та перевірені послуги штучного інтелекту користувачам з усього світу, тим самим демократизуючи ресурси провідних моделей штучного інтелекту. Алгоритм маршрутизації RedPill спрямовує запити розробників до окремих учасників. Запити API виконуватимуться через їхню розподільну мережу, обхід будь-яких обмежень з боку OpenAI, що вирішує деякі загальні проблеми, з якими стикаються розробники у сфері шифрування, такі як:

• Обмеження TPM (токенів на хвилину): новий рахунок обмежений у використанні токенів, що не може задовольнити потреби популярних додатків з штучним інтелектом.
• Обмеження доступу: Деякі моделі мають обмеження доступу до нового рахунку або деяких країн.

Замінивши лише ім'я хоста у тому ж самому коді запиту, розробник може отримати доступ до моделей OpenAI з низькими витратами, високою масштабованістю та без обмежень.

2. Графічний процесор (GPU) мережа

Крім використання API OpenAI, багато розробників також обирають самостійно розміщувати моделі вдома. Вони можуть покладатися на мережу GPU, таку як io.net, Aethir, Akash та інші популярні мережі, щоб самостійно створювати кластери GPU та розгортати та запускати різноманітні потужні внутрішні або відкриті моделі.

Такі мережі GPU Децентралізація можуть використовувати обчислювальну потужність особистих комп'ютерів або невеликих центрів обробки даних, щоб забезпечити гнучку конфігурацію, більше варіантів вибору серверів та менші витрати, що дозволяє розробникам легко проводити експерименти з штучним інтелектом в межах обмеженого бюджету. Однак через Децентралізація природу такі мережі GPU все ще мають певні обмеження щодо функціональності, доступності та конфіденційності даних.

Протягом останніх кількох місяців попит на GPU був вищий, ніж під час попередньої буму BTCМайнінг. Причини цього явища включають:

• Збільшення кількості цільових клієнтів, мережа GPU тепер обслуговує розробників Шифрування AI, які не тільки чисельно значні, але й вірні, і не піддаються впливу Криптовалюта Коливання.
• Порівняно з Майнінг спеціалізоване обладнання, Децентралізація GPU надає більше лонг моделей та специфікацій, які краще відповідають вимогам iez. Особливо для обробки великих моделей потрібна більша VRAM, а для невеликих завдань є підходящіші варіанти GPU. Крім того, Децентралізація GPU може обслуговувати кінцевих користувачів на близькій відстані, забезпечуючи Падіння затримки.
• Технології стають все більш зрілими, мережа GPU залежить від швидких блокчейнів, таких як Solana, системи розрахунків Розрахунок, технології віртуалізації Docker та кластери обчислень Ray.
• У плані інвестиційних доходів ринок штучного інтелекту розширюється, є можливості для розробки нових застосувань та моделей, H100 модель очікуваної виручки становить 60-70%, тоді як МайнінгBTC є складнішим, виграють сильні, обмежений обсяг виробництва.
• BTC-майнінгові компанії, такі як Iris Energy, Core Scientific і Bitdeer, також розпочали підтримку мережі GPU, надаючи послуги штучного інтелекту і активно купуючи GPU, спеціально розроблені для штучного інтелекту, такі як H100.

Рекомендується: Для розробників Web2, які не дуже приділяють увагу SLA, io.net надає зручний та простий досвід, що є дуже вигідним вибором.

3. Розумова мережа

Це є ядром основної інфраструктури шифрування AI. В майбутньому воно підтримуватиме мільярди операцій із інференції AI. Багато шарів AI рівня 1 або рівня 2 надають розробникам можливість викликати інференцію AI в у блокчейні. Серед лідерів на ринку є Ritual, Valence та Fetch.ai.

Ці мережі відрізняються в наступних аспектах:

1. Продуктивність (затримка, час обчислення)
2. Підтримувані моделі
3. Перевірність
4. Ціна (витрати на блокчейн, витрати на розумовий аналіз)
5. Досвід розробки

3.1 Мета

Ідеальний варіант - розробники можуть отримувати доступ до власних послуг інтелектуальної обробки даних AI в будь-якому місці, за допомогою будь-яких форм доказів, без перешкод в інтеграції.

Мережа має всю необхідну базову підтримку для розробників, включаючи генерацію за запитом та доказ валідації, виконання обчислень міркувань, Реле та перевірку даних міркувань, надання інтерфейсів для Web2 та Web3, одноразове розгортання моделей, системний моніторинг, операції Кросчейн взаємодії, синхронізацію та планове виконання й інші функції.

Источник: IOSGVentures

За допомогою цих функцій розробники можуть безшовно інтегрувати сервіси машинного навчання у свої смартконтракти. Наприклад, при створенні торгового робота для Децентралізованих фінансів, ці роботи використовуватимуть моделі машинного навчання для пошуку вигідних моментів купівлі-продажу певних торгових пар і виконання відповідних торгових стратегій на основній торговій платформі.

У ідеальному стані усі основні структури віддалено знаходяться у хмарі. Розробники можуть завантажити свої моделі торгівельної стратегії в універсальному форматі, такому як torch, і інференційна мережа збереже їх та надасть доступ до моделей для запитів у Web2 та Web3.

Після завершення всіх етапів розгортання моделей розробник може безпосередньо викликати інференцію моделі через веб-інтерфейс API або смарт-контракт. Інференційна мережа буде продовжувати виконувати ці транзакційні стратегії та повертати результати в основний смарт-контракт. Якщо обсяг спільних коштів, керованих розробником, є великим, також необхідно надати підтвердження результатів інференції. Як тільки результати інференції отримано, смарт-контракт буде здійснювати угоди на їх підставі.

Источник: IOSGVentures

3.1.1 Асинхронне та синхронне

Теоретично асинхронне виконання міркувань може забезпечити кращу продуктивність; проте цей підхід може бути не зручним для розробника.

При використанні асинхронного способу розробники спочатку повинні надіслати завдання до розумової мережі в розумовому контракті. Після завершення завдання на розумовій мережі, смартконтракт розумової мережі поверне результат. У цьому стилі програмування логіка розбивається на дві частини: виклик розумової функції та обробка результатів розумової функції.

Источник: IOSGVentures

Якщо розробник викликає вкладені виведення та має велику кількість керуючої логіки, ситуація стане ще гіршою.

Источник: IOSGVentures

Режим асинхронного програмування ускладнює інтеграцію з існуючим Смарт-контрактом. Це вимагає від розробників написання великої кількості додаткового коду, а також обробки помилок та управління залежностями.

Відносно, синхронне програмування є більш інтуїтивним для розробників, але воно вводить проблеми у відповідних час і Блокчейн дизайні. Наприклад, якщо вхідні дані є швидкозмінюваними даними, такими як час блоку або ціна, то після завершення розумового процесу дані вже не будуть свіжими, що може призвести до необхідності Відкату виконання Смарт-контракту у певних ситуаціях. Уявіть, що ви здійснюєте угоду за застарілою ціною.

Источник: IOSGVentures

Більшість базових інфраструктур штучного інтелекту використовують асинхронну обробку, але Valence намагається вирішити ці проблеми.

3.2 Реальність

Фактично, багато нових мереж мають тестовий статус, таких як мережа Ritual. Згідно з їхніми публічними документами, функціонал цих мереж наразі обмежений (наприклад, перевірка, доведення та інші функції ще не активовані). Наразі вони не надають хмарну інфраструктуру для підтримки обчислень штучного інтелекту у блокчейні, а замість цього надають фреймворк для самостійних обчислень штучного інтелекту та передачі результатів у блокчейні.

Це архітектура, що працює з Невзаємозамінний токен AIGC. Модель поширення генерує Невзаємозамінний токен та завантажує його на Arweave. Інференційна мережа буде мінтинг цей Невзаємозамінний токен на у блокчейні за цим Адреса.

Источник: IOSGVentures

Цей процес складний, і розробникам потрібно самостійно розгортати та підтримувати більшу частину інфраструктури, наприклад, Ritual Нода, Stable Diffusion Нода та Невзаємозамінний токен Smart-контракт з кастомною логікою сервісу.

Рекомендація: на даний момент інтеграція та розгортання користувацьких моделей в мережі машинного навчання є досить складними, і на цьому етапі більшість мереж не підтримують функцію перевірки. Використання технології штучного інтелекту на фронтенді забезпечить простіший вибір для розробників. Якщо вам дійсно потрібна функція перевірки, Giza, постачальник ZKML, є хорошим вибором.

4. Проксі-мережа

Проксі-мережа дозволяє користувачам легко налаштовувати проксі. Така мережа складається з сутностей або смарт-контрактів, які можуть самостійно виконувати завдання, взаємодіяти між собою та взаємодіяти з мережею Блокчейн без прямого втручання людини. Вона спрямована на технологію LLM, наприклад, вона може надати глибоке розуміння Ethereum за допомогою чат-бота GPT. Зараз інструменти для таких чат-ботів обмежені, розробники ще не можуть створювати складні додатки на цій основі.

Источник: IOSGVentures

Але у майбутньому агентська мережа надасть багато інструментів для використання агентами, не лише знання, але й здатність викликати зовнішні API, виконувати конкретні завдання тощо. Розробники зможуть з'єднувати окремі агенти, щоб створювати робочі процеси. Наприклад, написання розумного контракту Solidity включатиме спеціальних агентів, включаючи агента проектування протоколу, агента розробки Solidity, агента забезпечення безпеки коду та агента розгортання Solidity.

Источник: IOSGVentures

Ми співпрацюємо з цими агентами, використовуючи нагадування та сценарії.

Деякі приклади мереж агентів включають Flock.ai, Myshell, Theoriq.

Рекомендується: більшість проксі сьогодні мають обмежені можливості. Для певних випадків веб-проксі можуть краще підходити і мати зрілі інструменти для складання, наприклад, Langchain, Llamaindex.

5. Різниця між проксі-мережею та інференційною мережею

Агентська мережа більше зорієнтована на LLM, надаючи такі інструменти, як Langchain, для інтеграції лонг кількох агентів. Зазвичай розробнику не потрібно самостійно розробляти моделі машинного навчання, мережа агентів вже спростила процес розробки та розгортання моделей. Їм просто потрібно підключити необхідних агентів та інструменти. У багатьох випадках кінцеві користувачі безпосередньо використовуватимуть цих агентів.

Мережа міркувань є інфраструктурою підтримки проксі-мережі. Вона надає розробникам доступ на нижчому рівні. Зазвичай кінцеві користувачі не використовують прямий доступ до мережі міркувань. Розробники повинні розгортати свої моделі, і це не обмежується лише LLM, і вони можуть використовувати їх через поза блокчейном або у блокчейні.

Агентська мережа та мережа мислення не є повністю незалежними продуктами. Ми вже почали бачити деякі продукти вертикальної інтеграції. Вони одночасно надають можливості агентства та мислення через схожу інфраструктуру.

6.Нова територія можливостей

Крім модельного виведення, навчання та проксі-мережі, в області web3 є багато нових областей, які варто дослідити:

• Датасет: як перетворити дані Блокчейну на датасети, придатні для машинного навчання? Розробникам машинного навчання потрібні більш конкретні та спеціалізовані дані. Наприклад, Giza надає деякі високоякісні набори даних про Децентралізовані фінанси, які призначені саме для навчання машин. Ідеальний датасет повинен містити не тільки прості табличні дані, але й графічні дані, які можуть описувати взаємодію в світі Блокчейну. Наразі ми ще маємо недоліки в цьому. Деякі проекти зараз працюють над цим питанням, шляхом створення нових датасетів за допомогою винагороди для особистостей, які допомагають вирішувати цю проблему, наприклад, Bagel та Sahara, які обіцяють захист приватності особистих даних.
• Зберігання моделей: деякі моделі мають великий обсяг, тому ключовою є проблема зберігання, розповсюдження та контролю версій цих моделей, що впливає на продуктивність та вартість українського блокчейн машинного навчання. У цій галузі вже зроблено кроки вперед із піонерськими проектами, такими як FIL, AR та 0g.
• Тренування моделі: розподілене і перевірене навчання моделі - це складна задача. Gensyn, Bittensor, Flock та Allora вже досягли значних успіхів.
• Моніторинг: оскільки модельні виведення відбуваються як у блокчейні, так і поза блокчейном, нам потрібна нова інфраструктура, щоб допомогти розробникам web3 відстежувати використання моделей, вчасно виявляти можливі проблеми та відхилення. З відповідними інструментами моніторингу розробники машинного навчання web3 можуть вчасно вносити коригування та постійно оптимізувати точність моделей.
• RAG Інфраструктура: Розподілена RAG потребує нового середовища інфраструктури, має високі вимоги до сховища, вбудованого обчислення та векторної бази даних, при цьому забезпечуючи конфіденційність даних. Це відрізняється від поточної інфраструктури Web3 AI, більшість з якої залежить від сторонніх постачальників для завершення RAG, таких як Firstbatch та Bagel.
• Модель, спеціально створена для Web3: не всі моделі підходять для ситуацій Web3. У багатьох випадках потрібно перетренувати модель, щоб вона підходила для конкретних застосувань, таких як прогнозування цін, рекомендації тощо. З розвитком інфраструктури штучного інтелекту ми сподіваємося, що в майбутньому будуть доступні більш локальні моделі для web3, які обслуговуватимуть застосування штучного інтелекту. Наприклад, Pond розробляє блокчейн GNN для прогнозування цін, рекомендацій, виявлення шахрайства та протидії відмиванню грошей тощо.
• Оцінка мережі: оцінка агентів в умовах відсутності зворотного зв'язку від людини є складною. З поширенням інструментів створення агентів на ринку з'явиться безліч агентів. Це потребує системи для відображення можливостей цих агентів та допомоги користувачам у визначенні найкращої продуктивності певного агента в конкретних умовах. Наприклад, Neuronets - це учасник цієї галузі.
• Механізм консенсусу: для задач штучного інтелекту PoS не обов'язково є найкращим вибором. Складність обчислень, складнощі з перевіркою та відсутність визначеності - основні виклики, з якими стикається PoS. Bittensor створив новий розумний Механізм консенсусу, який винагороджує Ноди, що вносять внесок у мережу штучного інтелекту для моделей машинного навчання та їх виводу.

7. Перспективи майбутнього

Ми спостерігаємо тенденцію до вертикальної інтеграції. Шляхом побудови базового обчислювального шару мережа може підтримувати різні завдання машинного навчання, включаючи навчання, інференцію та проксі-мережеві сервіси. Цей підхід має на меті забезпечити розробникам машинного навчання Web3 повний спектр рішень від одного постачальника.

На сьогодні, хоча у блокчейні розрахунок є дорогим і повільним, він надає високу перевірку і безшовну інтеграцію з бекенд-системами (наприклад, смарт-контрактами). Я вважаю, що майбутнє належить гібридним додаткам. Деякі обчислення будуть виконуватися на фронтенді або поза блокчейном, тоді як ключові і стратегічні розрахунки будуть здійснюватися в у блокчейні. Цей підхід вже застосовується на мобільних пристроях. Використовуючи природні особливості мобільних пристроїв, він може швидко виконувати локальні обчислення з використанням невеликих моделей та переносити більш складні задачі на хмару для обробки за допомогою більших потужностей LLM.