OPML: Оптимістичне машинне навчання на Блокчейн системі

OPML(Оптимістичне машинне навчання) є новим методом інференції та навчання моделей штучного інтелекту на базі Блокчейн. В порівнянні з ZKML, OPML може надавати послуги машинного навчання з нижчими витратами та вищою ефективністю. Вимоги до апаратного забезпечення OPML низькі, звичайний ПК може запускати великі мовні моделі, такі як 7B-LLaMA( приблизно 26GB).

OPML використовує механізм перевірки ігор для забезпечення децентралізації та перевірного консенсусу ML-сервісів:

1. Запитувач ініціює завдання ML-сервісу
2. Сервер виконав завдання та подав результати в блокчейн
3. Валідатори перевіряють результати, у разі незгоди запускають гру верифікації
4. В кінцевому підсумку провести поетапний арбітраж на смарт-контракті

Одностадійна верифікаційна гра

Ключові моменти одноетапного OPML:

• Створення еквівалентної віртуальної машини для оффлайн виконання та онлайн арбітражу (VM)
• Реалізація спеціалізованої легковагової бібліотеки DNN, підвищення ефективності AI-інференції
• Крос-компіляція коду інференції AI моделей у команди VM
• Використання дерева Меркла для управління образами ВМ, лише завантаження кореневого хешу на блокчейн

Двійковий протокол використовується для визначення спірних етапів і їх надсилання до арбітражного контракту на Блокчейні.

Тестування продуктивності показало, що базова AI модель ( MNIST класифікації DNN ) завершила інференцію за 2 секунди у VM, а весь процес виклику завершився на локальній тестовій мережі Ethereum за 2 хвилини.

! OPML: Машинне навчання з оптимістичною системою зведення

Багатоступенева верифікація гри

Щоб подолати обмеження одностадійного протоколу, ми пропонуємо багатостадійний OPML:

• Лише на останньому етапі обчислення у VM, інші етапи можуть виконуватись у локальному середовищі
• Використання апаратного прискорення, такого як CPU, GPU, TPU для підвищення продуктивності
• Використання дерева Меркла для забезпечення цілісності та безпеки переходів між етапами

Двохетапний OPML на прикладі моделі LLaMA:

1. Другий етап: проведення верифікаційної гри на обчислювальному графі, можна використовувати багатопотоковий ЦП або ГП.
2. Перший етап: перетворення обчислення окремого вузла на інструкцію VM

Багатоступеневий метод значно підвищив ефективність верифікації, особливо для складних обчислень.

Покращення продуктивності

Припустимо, що DNN обчислювальний граф має n вузлів, кожен вузол потребує m команд VM, прискорення GPU становить α:

1. Двохетапний OPML швидший у α разів, ніж одноетапний.
2. Розмір мерклеївського дерева двофазного OPML дорівнює O(m+n), що значно менше, ніж однієї фази O(mn)

Багатоступенева структура значно підвищила обчислювальну ефективність та масштабованість системи.

Узгодженість та детермінованість

Для вирішення проблеми несумісності обчислень з плаваючою комою на різних апаратних платформах OPML використовує:

1. Фіксований алгоритм ( кількісна технологія ): використання фіксованої точності замість чисел з плаваючою комою
2. Базована на програмному забезпеченні кросплатформена однакова бібліотека з плаваючою точкою

Ці методи забезпечують узгодженість і надійність результатів обчислення OPML.

OPML проти ZKML

OPML має такі переваги в порівнянні з ZKML:

• Нижчі вимоги до апаратного забезпечення
• Швидший час виконання
• Підтримка більших масштабів моделей
• Підходить для більш широкого спектру ML завдань

Наразі OPML в основному зосереджується на інференції моделей, але фреймворк також підтримує процес навчання моделей. Проект OPML все ще перебуває в активній розробці, запрошуємо зацікавлених розробників долучатися до внесків.