OPML: Aprendizaje automático optimista en la Cadena de bloques

OPML(El aprendizaje automático optimista) es un nuevo tipo de modelo de IA de cadena de bloques para inferencia y entrenamiento. En comparación con ZKML, OPML puede proporcionar servicios de aprendizaje automático a un costo más bajo y con mayor eficiencia. Los requisitos de hardware de OPML son bajos, una PC normal puede ejecutar modelos de lenguaje grandes como 7B-LLaMA( con aproximadamente 26GB).

OPML utiliza un mecanismo de juego de verificación para garantizar la descentralización y el consenso verificable de los servicios de ML:

1. El solicitante inicia la tarea del servicio ML.
2. El servidor completa la tarea y envía el resultado a la cadena de bloques
3. Los validadores revisan los resultados, y si hay objeciones, inician el juego de verificación.
4. Finalmente, realizar la arbitraje paso a paso en el contrato inteligente

Juego de verificación de una sola etapa

Puntos clave del OPML de una sola etapa:

• Construir una máquina virtual equivalente para la ejecución fuera de la cadena y el arbitraje en la cadena (VM)
• Implementar una biblioteca DNN ligera y dedicada para mejorar la eficiencia de la inferencia de IA
• Compilar cruzado el código de inferencia del modelo de IA a instrucciones de VM
• Utilizar árboles de Merkle para gestionar imágenes de VM, solo subir el hash raíz a la cadena.

El protocolo de bifurcación se utiliza para localizar los pasos en disputa y enviarlos al contrato de arbitraje en la cadena de bloques.

Las pruebas de rendimiento muestran que el modelo básico de IA ( DNN de clasificación MNIST ) completa la inferencia en menos de 2 segundos en una VM, y todo el proceso del desafío se completa en menos de 2 minutos en la red de prueba de Ethereum local.

Juego de verificación de múltiples etapas

Para superar las limitaciones del protocolo de una sola etapa, proponemos el OPML de múltiples etapas:

• Solo la fase final se calcula en la VM, las demás fases se pueden ejecutar en el entorno local.
• Utilizar hardware como CPU, GPU y TPU para acelerar y mejorar el rendimiento
• Utilizar el árbol de Merkle para garantizar la integridad y seguridad de las transiciones entre etapas

OPML de dos fases con el modelo LLaMA:

1. Segunda etapa: realizar un juego de verificación en el gráfico de cálculo, se puede usar CPU o GPU multihilo.
2. Primera etapa: convertir el cálculo de un nodo individual en instrucciones de VM

El enfoque de múltiples etapas mejora significativamente la eficiencia de verificación, especialmente para cálculos complejos.

Mejora del rendimiento

Supongamos que el gráfico de cálculo DNN tiene n nodos, cada nodo necesita m instrucciones de VM, la aceleración de GPU es de α:

1. El OPML en dos fases es α veces más rápido que el de una fase.
2. El tamaño del árbol de Merkle de OPML de dos fases es O(m+n), mucho menor que el de una fase O(mn).

El marco de múltiples etapas mejora enormemente la eficiencia computacional y la escalabilidad del sistema.

Consistencia y determinación

Para resolver el problema de la inconsistencia en los cálculos de punto flotante en diferentes plataformas de hardware, OPML adopta:

1. Algoritmo de punto fijo ( tecnología de cuantificación ): usar precisión fija en lugar de números de punto flotante
2. Biblioteca de punto flotante consistente multiplataforma basada en software

Estos métodos aseguran la consistencia y fiabilidad de los resultados de cálculo de OPML.

OPML vs ZKML

OPML tiene las siguientes ventajas en comparación con ZKML:

• Requisitos de hardware más bajos
• Mayor velocidad de ejecución
• Soporta un mayor tamaño de modelo
• Aplicable a una gama más amplia de tareas de ML

Actualmente, OPML se centra principalmente en la inferencia de modelos, pero el marco también admite el proceso de entrenamiento de modelos. El proyecto OPML sigue en desarrollo, y se invita a los desarrolladores interesados a contribuir.