OPML: Sistema de Blockchain com Aprendizagem de Máquina Optimista

OPML(Aprendizagem de Máquina Optimista) é um novo método de inferência e treino de modelos de IA em Blockchain. Comparado com ZKML, OPML pode oferecer serviços de aprendizagem de máquina a um custo mais baixo e com maior eficiência. Os requisitos de hardware do OPML são baixos, permitindo que PCs comuns executem modelos de linguagem de grande escala, como o 7B-LLaMA(, com aproximadamente 26GB).

OPML utiliza um mecanismo de jogo de verificação para garantir a descentralização e o consenso verificável dos serviços de ML:

1. O solicitante inicia a tarefa de serviço ML
2. O servidor completa a tarefa e submete o resultado ao blockchain.
3. O validador verifica os resultados, e se houver contestações, inicia o jogo de validação.
4. Por fim, realizar a arbitragem passo a passo no contrato inteligente

Jogo de validação de uma só fase

Pontos-chave do OPML de uma única fase:

• Construir uma máquina virtual equivalente para execução off-chain e arbitragem on-chain (VM)
• Implementar uma biblioteca DNN leve e especializada, aumentando a eficiência da inferência de IA
• Compilar cruzadamente o código de inferência de modelos de IA para instruções VM
• Usar uma árvore de Merkle para gerenciar imagens de VM, enviando apenas o hash raiz para a blockchain.

O protocolo de divisão é usado para localizar etapas de disputa e enviá-las para o contrato de arbitragem na blockchain.

Os testes de desempenho mostraram que o modelo básico de IA ( DNN de classificação MNIST ) completou a inferência em menos de 2 segundos em uma VM, e todo o processo do desafio foi concluído na rede de testes Ethereum local em menos de 2 minutos.

Jogo de Verificação em Múltiplas Fases

Para superar as limitações do protocolo de uma única fase, propomos o OPML de múltiplas fases:

• Apenas a fase final é calculada na VM, as outras fases podem ser executadas no ambiente local.
• Utilizar hardware de aceleração como CPU, GPU, TPU, para melhorar o desempenho
• Usar a árvore de Merkle para garantir a integridade e segurança das transições entre fases

Exemplo de OPML em duas fases com o modelo LLaMA:

1. Segunda fase: realizar um jogo de validação no gráfico computacional, podendo utilizar CPU ou GPU multithread.
2. Primeira fase: converter o cálculo de um único nó em instruções VM

O método de múltiplas fases melhorou significativamente a eficiência de validação, especialmente para cálculos complexos.

Melhoria de desempenho

Suponha que o gráfico de cálculo DNN tenha n nós, cada nó requer m instruções de VM, e a razão de aceleração da GPU é α:

1. OPML de duas fases é α vezes mais rápido que o de uma fase
2. O tamanho da árvore de Merkle do OPML de duas fases é O(m+n), muito menor do que a de uma fase O(mn)

A estrutura de múltiplas fases aumentou significativamente a eficiência computacional e a escalabilidade do sistema.

Consistência e Determinismo

Para resolver o problema de inconsistência nos cálculos de ponto flutuante em diferentes plataformas de hardware, o OPML adota:

1. Algoritmo de Ponto Fixo ( Tecnologia de Quantização ): usar precisão fixa em vez de números de ponto flutuante
2. Biblioteca de ponto flutuante consistente multiplataforma baseada em software

Estes métodos garantem a consistência e a fiabilidade dos resultados de cálculo do OPML.

OPML vs ZKML

OPML tem as seguintes vantagens em relação ao ZKML:

• Requisitos de hardware mais baixos
• Velocidade de execução mais rápida
• Suporte a modelos de maior escala
• Adequado para uma gama mais ampla de tarefas de ML

Atualmente, o OPML está principalmente focado na inferência de modelos, mas a estrutura também suporta o processo de treinamento de modelos. O projeto OPML ainda está em desenvolvimento contínuo e convidamos desenvolvedores interessados a contribuir.