OPML: Ефективне рішення для машинного навчання на основі механізму Optimistic у Блокчейн

OPML (Оптимістичне машинне навчання) є новим типом блокчейн-технології машинного навчання, яка реалізує інференцію та навчання/доладку AI-моделей за допомогою оптимістичного підходу. У порівнянні з ZKML, OPML має переваги в низьких витратах та високій ефективності, а також низькому порозі участі. В даний час звичайний ПК може запускати великі мовні моделі, такі як 26GB 7B-LLaMA, без необхідності в GPU.

OPML використовує механізм верифікації ігор для забезпечення децентралізації та верифікації ML сервісів. Основний процес виглядає наступним чином:

1. Запитувач ініціює завдання ML-сервісу
2. Сервер виконав завдання та подав результати в ланцюг
3. Верифікатори перевіряють результати, у разі незгоди запускають верифікаційну гру
4. Одноступенева арбітраж через смарт-контракт

! OPML: Машинне навчання з Optimistic Rollup

Одноетапна верифікаційна гра

Одноетапний OPML використовує протокол точного позиціонування, подібний до розрахункових делегувань (RDoC). Головні характеристики включають:

• Побудова віртуальної машини (VM) для виконання поза ланцюгом та арбітражу в ланцюзі
• Реалізація легковагової бібліотеки DNN для підвищення ефективності виведення AI моделей
• Використовуйте технологію крос-компіляції для компіляції AI-інференційного коду в інструкції VM
• VM-образи керуються через дерево Меркла, лише кореневий хеш завантажується в ланцюг

Тестування продуктивності показало, що базова AI модель (DNN для класифікації MNIST) може виконати VM виведення на ПК за 2 секунди, а весь процес виклику можна завершити протягом 2 хвилин у локальному тестовому середовищі Ethereum.

Багатоступенева верифікація гри

Щоб подолати обмеження одностадійного протоколу, OPML впроваджує багатостадійний протокол для повного використання можливостей GPU/TPU та паралельної обробки. Основні переваги багатостадійного OPML:

• Лише остання стадія обчислюється у VM, інші стадії можуть виконуватися в локальному середовищі
• Значно покращити продуктивність виконання, наближаючись до рівня локального середовища
• Використання дерева Меркла для забезпечення цілісності та безпеки міжетапних перетворень

На прикладі моделі LLaMA, двофазний метод OPML виглядає так:

1. Представити процес ML-обчислень у вигляді обчислювального графа
2. Проведення верифікаційної гри на графіку (другий етап)
3. Перетворення обчислень з суперечливих вузлів на інструкції VM (перша стадія)

Багатоступенева OPML в порівнянні з одноступеневим рішенням може забезпечити прискорення обчислень в α разів (α – це коефіцієнт прискорення GPU або паралельних обчислень). Крім того, розмір меркелевого дерева в багатоступеневому рішенні значно зменшується, що додатково підвищує ефективність та масштабованість.

Узгодженість та визначеність

Щоб забезпечити узгодженість результатів ML, OPML використовує такі стратегії:

1. Використання фіксованих точок (технології квантування) для зменшення похибки округлення з плаваючою комою
2. Використання програмної бібліотеки з плаваючою комою для забезпечення кросплатформної узгодженості

Ці методи ефективно подолали виклики, пов'язані з плаваючими змінними та відмінностями платформ, що підвищило надійність обчислень OPML.

OPML проти ZKML

OPML має наступні переваги в порівнянні з ZKML:

• Нижчі вимоги до апаратного забезпечення
• Вища ефективність виконання
• Підтримка моделей більшого масштабу
• Можливість проведення навчання моделей (ZKML підтримує лише інференцію)

Варто зазначити, що проект OPML все ще перебуває в процесі розробки, і ми запрошуємо зацікавлених розробників долучитися до внесків.