OPML: Solución de aprendizaje automático eficiente en cadena de bloques basada en el mecanismo Optimistic
OPML (Aprendizaje automático optimista) es una nueva tecnología de aprendizaje automático basada en la cadena de bloques que logra la inferencia y el entrenamiento/ajuste fino de modelos de IA a través del método optimista. En comparación con ZKML, OPML tiene la ventaja de costos bajos y alta eficiencia, además de tener un umbral de participación más bajo. Actualmente, una PC normal puede ejecutar modelos de lenguaje grandes, como el 7B-LLaMA de 26GB, sin necesidad de GPU.
OPML utiliza un mecanismo de juego de verificación para garantizar la descentralización y la verificabilidad del servicio ML. Su proceso básico es el siguiente:
El solicitante inicia una tarea de servicio ML
El servidor completa la tarea y envía el resultado a la cadena de bloques
Los validadores revisan los resultados, y si hay objeciones, se inicia el juego de validación.
Arbitraje paso a paso a través de contratos inteligentes
Juego de verificación de una sola etapa
El OPML de una sola etapa utiliza un protocolo de localización precisa, similar a la delegación de cálculo (RDoC). Las principales características incluyen:
Construir una máquina virtual (VM) para la ejecución fuera de la cadena y el arbitraje en la cadena.
Implementar una biblioteca DNN ligera para mejorar la eficiencia de la inferencia del modelo de IA
Utilizar tecnología de compilación cruzada para compilar el código de inferencia de IA en instrucciones de VM
La imagen de VM se gestiona a través de un árbol de Merkle, subiendo solo el hash raíz a la cadena.
Las pruebas de rendimiento muestran que el modelo AI básico (DNN de clasificación MNIST) puede completar la inferencia de VM en PC en menos de 2 segundos, y todo el proceso del desafío se puede completar en un entorno de prueba de Ethereum local en 2 minutos.
Juego de verificación de múltiples etapas
Para superar las limitaciones del protocolo de una sola etapa, OPML ha introducido un protocolo de varias etapas para aprovechar al máximo la capacidad de procesamiento paralelo y de GPU/TPU. Las principales ventajas del OPML de varias etapas son:
Solo la última etapa se calcula en la VM, las otras etapas se pueden ejecutar en el entorno local.
Aumentar significativamente el rendimiento de ejecución, acercándose al nivel del entorno local
Utilizar árboles de Merkle para garantizar la integridad y seguridad de las transiciones entre fases.
Tomando como ejemplo el modelo LLaMA, el método OPML en dos etapas es el siguiente:
Representar el proceso de cálculo de ML como un gráfico de cálculo
Realizar un juego de verificación en el gráfico (segunda fase)
Convertir el cálculo de nodos en disputa a instrucciones VM (primera fase)
La OPML de múltiples etapas puede lograr una aceleración de cálculo de α veces en comparación con la solución de una sola etapa (α es la razón de aceleración de GPU o computación paralela). Además, el tamaño del árbol de Merkle en la solución de múltiples etapas se reduce significativamente, lo que mejora aún más la eficiencia y escalabilidad.
Consistencia y determinación
Para garantizar la consistencia de los resultados de ML, OPML adopta la siguiente estrategia:
Utilizar algoritmos de punto fijo (tecnología de cuantificación) para reducir los errores de redondeo de punto flotante
Utilizar una biblioteca de punto flotante basada en software para garantizar la consistencia entre plataformas
Estos métodos superaron efectivamente los desafíos planteados por las diferencias de variables de punto flotante y plataformas, mejorando la fiabilidad del cálculo de OPML.
OPML vs ZKML
OPML tiene las siguientes ventajas en comparación con ZKML:
Requisitos de hardware más bajos
Mayor eficiencia de ejecución
Soporte para modelos de mayor escala
Se puede realizar entrenamiento de modelos (ZKML solo admite inferencia)
Es importante señalar que el proyecto OPML sigue en desarrollo y se invita a los desarrolladores interesados a participar y contribuir.
Esta página puede contener contenido de terceros, que se proporciona únicamente con fines informativos (sin garantías ni declaraciones) y no debe considerarse como un respaldo por parte de Gate a las opiniones expresadas ni como asesoramiento financiero o profesional. Consulte el Descargo de responsabilidad para obtener más detalles.
18 me gusta
Recompensa
18
5
Compartir
Comentar
0/400
SeasonedInvestor
· 07-14 14:16
又是 tontos tomar a la gente por tonta
Ver originalesResponder0
blockBoy
· 07-12 17:38
¿Se puede jugar con una máquina de bajo rendimiento? Esta vez se puede.
OPML: Nueva tecnología de aprendizaje automático en cadena de bloques de bajo costo y alta eficiencia
OPML: Solución de aprendizaje automático eficiente en cadena de bloques basada en el mecanismo Optimistic
OPML (Aprendizaje automático optimista) es una nueva tecnología de aprendizaje automático basada en la cadena de bloques que logra la inferencia y el entrenamiento/ajuste fino de modelos de IA a través del método optimista. En comparación con ZKML, OPML tiene la ventaja de costos bajos y alta eficiencia, además de tener un umbral de participación más bajo. Actualmente, una PC normal puede ejecutar modelos de lenguaje grandes, como el 7B-LLaMA de 26GB, sin necesidad de GPU.
OPML utiliza un mecanismo de juego de verificación para garantizar la descentralización y la verificabilidad del servicio ML. Su proceso básico es el siguiente:
Juego de verificación de una sola etapa
El OPML de una sola etapa utiliza un protocolo de localización precisa, similar a la delegación de cálculo (RDoC). Las principales características incluyen:
Las pruebas de rendimiento muestran que el modelo AI básico (DNN de clasificación MNIST) puede completar la inferencia de VM en PC en menos de 2 segundos, y todo el proceso del desafío se puede completar en un entorno de prueba de Ethereum local en 2 minutos.
Juego de verificación de múltiples etapas
Para superar las limitaciones del protocolo de una sola etapa, OPML ha introducido un protocolo de varias etapas para aprovechar al máximo la capacidad de procesamiento paralelo y de GPU/TPU. Las principales ventajas del OPML de varias etapas son:
Tomando como ejemplo el modelo LLaMA, el método OPML en dos etapas es el siguiente:
La OPML de múltiples etapas puede lograr una aceleración de cálculo de α veces en comparación con la solución de una sola etapa (α es la razón de aceleración de GPU o computación paralela). Además, el tamaño del árbol de Merkle en la solución de múltiples etapas se reduce significativamente, lo que mejora aún más la eficiencia y escalabilidad.
Consistencia y determinación
Para garantizar la consistencia de los resultados de ML, OPML adopta la siguiente estrategia:
Estos métodos superaron efectivamente los desafíos planteados por las diferencias de variables de punto flotante y plataformas, mejorando la fiabilidad del cálculo de OPML.
OPML vs ZKML
OPML tiene las siguientes ventajas en comparación con ZKML:
Es importante señalar que el proyecto OPML sigue en desarrollo y se invita a los desarrolladores interesados a participar y contribuir.