OPML: Оптимистичное машинное обучение в системе Блокчейн

OPML(Оптимистическое машинное обучение) является новым методом вывода и обучения моделей ИИ на Блокчейн. В отличие от ZKML, OPML может предоставлять услуги машинного обучения с более низкими затратами и более высокой эффективностью. Аппаратные требования OPML ниже, обычный ПК может запускать большие языковые модели, такие как 7B-LLaMA(, без GPU, примерно 26GB).

OPML использует механизм проверки игр для обеспечения децентрализации и проверяемого консенсуса ML-сервисов:

1. Запросчик инициирует задачу ML-сервиса
2. Сервер завершает задачу и отправляет результат в Блокчейн
3. Валидаоры проверяют результаты, если есть разногласия, то запускается игра верификации.
4. В конечном итоге провести поэтапный арбитраж на смарт-контракте

! OPML: Машинное обучение с оптимистичным свертыванием

Одноэтапная верификационная игра

Ключевые моменты одностадийного OPML:

• Создание эквивалентной виртуальной машины для оффлайн-исполнения и онлайн-арбитража (VM)
• Реализовать специализированную легковесную библиотеку DNN для повышения эффективности ИИ-вывода
• Кросс-компиляция кода вывода AI модели в инструкции VM
• Используйте дерево Меркла для управления изображениями VM, загружая на цепь только корневой хэш.

Протокол двоичного разбиения используется для определения спорных шагов и их отправки в арбитражный контракт на блокчейне.

Тестирование производительности показало, что базовая AI модель ( MNIST классификация DNN ) завершила вывод за 2 секунды в VM, а весь процесс испытания завершился на локальной тестовой сети Эфириума за 2 минуты.

! OPML: Машинное обучение с оптимистичной системой свертывания

Многоуровневая верификация игры

Чтобы преодолеть ограничения однофазного протокола, мы предлагаем многофазный OPML:

• Только последний этап вычисляется в VM, остальные этапы могут выполняться в локальной среде.
• Использование аппаратного ускорения, такого как CPU, GPU, TPU, для повышения производительности
• Используйте дерево Меркла для обеспечения целостности и безопасности переходов между этапами

Двухступенчатая OPML на примере модели LLaMA:

1. Второй этап: проведение верификационных игр на вычислительном графе, можно использовать многопоточную ЦПУ или GPU
2. Первый этап: преобразование вычислений одного узла в инструкции VM

Многоступенчатый метод значительно повысил эффективность верификации, особенно для сложных вычислений.

! OPML: Машинное обучение с оптимистичным свертыванием

Улучшение производительности

Предположим, что вычислительный граф DNN имеет n узлов, каждый узел требует m команд VM, а ускорение GPU составляет α:

1. Двухступенчатый OPML быстрее одноступенчатого в α раз
2. Размер дерева Меркла двухфазного OPML составляет O(m+n), что намного меньше, чем однопазное O(mn).

Многоуровневая структура значительно повышает вычислительную эффективность и масштабируемость системы.

! OPML: Машинное обучение с оптимистичным свертыванием

Согласованность и определенность

Для решения проблемы несоответствия вычислений с плавающей запятой на различных аппаратных платформах, OPML использует:

1. Фиксированный алгоритм ( квантовых технологий ): использование фиксированной точности вместо плавающей.
2. Мультиплатформенная согласованная библиотека с плавающей точкой на основе программного обеспечения

Эти методы обеспечивают согласованность и надежность результатов вычислений OPML.

OPML против ZKML

OPML имеет следующие преимущества по сравнению с ZKML:

• Более низкие аппаратные требования
• Более высокая скорость исполнения
• Поддержка больших масштабов моделей
• Подходит для более широкого круга задач ML

В настоящее время OPML в основном сосредоточен на выводе моделей, но фреймворк также поддерживает процесс обучения моделей. Проект OPML продолжает развиваться, и мы приветствуем заинтересованных разработчиков участвовать в его развитии.

! OPML: Машинное обучение с оптимистичной системой свертывания