OPML: Optimización del aprendizaje automático en la Cadena de bloques mediante un enfoque optimista

OPML(El aprendizaje automático optimista) es una nueva tecnología que permite la inferencia y el entrenamiento/ajuste fino de modelos de IA en sistemas de Cadena de bloques. En comparación con ZKML, OPML tiene la ventaja de ser de bajo costo y alta eficiencia, lo que puede ofrecer a los usuarios un servicio de ML más conveniente.

Una de las grandes características de OPML es que la barrera de entrada es baja. Incluso una PC normal sin GPU puede ejecutar OPML, que incluye modelos de lenguaje grandes como 7B-LLaMA de 26 GB de tamaño, incluyendo (.

Para garantizar la descentralización y el consenso verificable del servicio ML, OPML utiliza un mecanismo de juego de verificación, similar a Truebit y al sistema Optimistic Rollup. Su proceso básico es el siguiente:

1. El solicitante inicia la tarea de servicio ML
2. El servidor completa la tarea y sube los resultados a la Cadena de bloques
3. Los validadores verifican los resultados, y si hay objeciones, inician el juego de verificación.
4. Localizar con precisión los pasos erróneos a través del protocolo de bifurcación
5. Realizar arbitraje de un solo paso en un contrato inteligente

![OPML：采用Optimistic Rollup系统的机器学习])https://img-cdn.gateio.im/webp-social/moments-97100de5d65b1bb4dfc9ad6502195b59.webp(

Juego de verificación de una sola fase

El núcleo del juego de verificación de una sola etapa es el protocolo de localización precisa, cuyo funcionamiento es similar al cálculo de la delegación )RDoC(. Cuando múltiples partes participan en el mismo programa, pueden identificar los pasos controvertidos a través de cuestionamientos mutuos y someterlos a un contrato inteligente en la Cadena de bloques para arbitraje.

El juego de verificación de una sola etapa de OPML tiene las siguientes características:

• Se ha construido una máquina virtual )VM( de ejecución fuera de la cadena y arbitraje en la cadena, garantizando la equivalencia entre ambas.
• Se ha implementado una biblioteca DNN ligera especializada, mejorando la eficiencia de inferencia de modelos de IA.
• Utilizando tecnología de compilación cruzada, el código de inferencia del modelo de IA se compila en instrucciones de VM
• Utilizar un árbol de Merkle para gestionar las imágenes de VM, solo subir la raíz de Merkle a la cadena de bloques.

Después de localizar los pasos de disputa a través del protocolo de bisectriz, se envían al contrato de arbitraje en la cadena de bloques. Las pruebas indican que, en una PC común, la inferencia del modelo básico de IA )MNIST clasificación DNN( se puede completar en 2 segundos, y todo el proceso del desafío dura aproximadamente 2 minutos.

![OPML：采用Optimistic Rollup系统的机器学习])https://img-cdn.gateio.im/webp-social/moments-e798407b4f5f3dd6dc7d8327db07eb20.webp(

Juego de validación de múltiples etapas

Las limitaciones del juego de verificación de una sola etapa radican en que todos los cálculos deben ejecutarse dentro de la VM, lo que impide aprovechar adecuadamente la aceleración o el procesamiento en paralelo de GPU/TPU. Para abordar este problema, OPML ha propuesto una expansión del protocolo de múltiples etapas.

La idea central del protocolo de múltiples etapas es: calcular en la VM solo en la última etapa, mientras que las otras etapas se pueden ejecutar de manera flexible en el entorno local, aprovechando al máximo la CPU, GPU, TPU e incluso la capacidad de procesamiento paralelo. Esto mejora significativamente la eficiencia de ejecución de OPML, acercándose al nivel de rendimiento del entorno local.

Tomemos como ejemplo un juego validado en dos etapas )k=2(:

• Fase 2: La "gran instrucción" que corresponde a la conversión de estado cambia el contexto de cálculo.
• Fase 1: juego de verificación de una sola etapa similar, la conversión de estado corresponde a una sola microinstrucción VM

Los presentadores y validadores inician primero el juego de verificación en la Fase 2, localizando la "gran instrucción" en disputa. Luego pasan a la Fase 1, localizando las microinstrucciones de VM en disputa, y finalmente se envían a la arbitraje de cadena de bloques.

Para garantizar la integridad y seguridad de la transición entre etapas, OPML depende de un árbol de Merkle, extrayendo subárboles de la etapa alta para asegurar la continuidad del proceso de verificación.

![OPML：采用Optimistic Rollup系统的机器学习])https://img-cdn.gateio.im/webp-social/moments-3f290bc2a1acee40d4e71fbf35ee5079.webp(

Aplicación de OPML de múltiples etapas en el modelo LLaMA

En el modelo LLaMA, OPML utiliza un enfoque de dos etapas:

1. Representar el proceso de cálculo ML/DNN como un gráfico de cálculo G, donde cada nodo almacena el resultado intermedio del cálculo.
2. La inferencia del modelo se refiere al proceso de cálculo en el gráfico computacional, donde todo el gráfico representa el estado de inferencia.
3. La segunda fase se realiza en la gráfica de cálculo para validar el juego, utilizando CPU o GPU multihilo.
4. La fase 1 convierte el cálculo de un solo nodo en instrucciones de VM, similar a un protocolo de una sola fase.

Cuando el cálculo de un solo nodo sigue siendo complejo, se pueden introducir más etapas para mejorar aún más la eficiencia.

Análisis de mejora del rendimiento

Supongamos que el gráfico de cálculo tiene n nodos, cada nodo requiere m microinstrucciones de VM, y la relación de aceleración de GPU/cálculo paralelo es α:

1. El OPML de dos fases es α veces más rápido que el de una sola fase.
2. El tamaño del árbol de Merkle del OPML de dos etapas es O)m+n(, significativamente menor que el de una etapa O)mn(.

El diseño de múltiples etapas no solo mejora la eficiencia computacional, sino que también aumenta la escalabilidad del sistema.

![OPML：采用Optimistic Rollup系统的机器学习])https://img-cdn.gateio.im/webp-social/moments-4d41ed09832980b943519f4c0baa6109.webp(

Garantía de consistencia y determinación

Para garantizar la consistencia de los resultados de ML en múltiples plataformas, OPML ha tomado dos medidas clave:

1. Utilizar el algoritmo de punto fijo ) para cuantificación técnica (, para representar y ejecutar cálculos con una precisión fija.
2. Utilizar una biblioteca de punto flotante basada en software para garantizar la consistencia de la funcionalidad entre plataformas.

Estas tecnologías superan eficazmente los desafíos planteados por las variables de punto flotante y las diferencias de plataforma, mejorando la integridad y la fiabilidad del cálculo OPML.

OPML vs ZKML

OPML tiene las siguientes ventajas en comparación con ZKML:

• Menores costos de computación y almacenamiento
• Mayor eficiencia en la ejecución
• Soporte para modelos de mayor escala
• Más fácil de implementar y desplegar

Actualmente, OPML se centra principalmente en la inferencia de modelos, pero el marco también admite el entrenamiento de modelos, lo que puede utilizarse para diversas tareas de aprendizaje automático. El proyecto OPML sigue en desarrollo activo, y se invita a los desarrolladores interesados a contribuir.

![OPML: sistema de aprendizaje automático que utiliza Optimistic Rollup])https://img-cdn.gateio.im/webp-social/moments-a33f120074b07b2ec4ae4ececbea79f1.webp(