OPML: استخدام الطريقة المتفائلة لتحسين التعلم الآلي داخل السلسلة

OPML(التعلم الآلي المتفائل) هو تقنية جديدة، يمكن استخدامها لاستدلال وتدريب/تعديل نماذج الذكاء الاصطناعي داخل السلسلة. بالمقارنة مع ZKML، يتميز OPML بتكلفة منخفضة وكفاءة عالية، مما يوفر للمستخدمين خدمات تعلم آلي أكثر سهولة.

تتمثل إحدى الميزات الرئيسية لـ OPML في انخفاض عتبة المشاركة. حتى أجهزة الكمبيوتر العادية التي لا تحتوي على GPU يمكنها تشغيل OPML الذي يتضمن نماذج لغوية كبيرة مثل 7B-LLaMA بحجم 26GB.

لضمان اللامركزية والقابلية للتحقق من الإجماع في خدمات ML، اعتمد OPML آلية ألعاب التحقق، مشابهة لنظام Truebit و Optimistic Rollup. تتلخص العملية الأساسية كما يلي:

1. يقوم طالب الطلب بإطلاق مهمة خدمة ML
2. تقوم الخادمات بإكمال المهام وإدخال النتائج داخل السلسلة
3. يقوم المُحققون بالتحقق من النتائج، وإذا كانت هناك اعتراضات، يتم تفعيل لعبة التحقق.
4. تحديد الخطوات الخاطئة بدقة من خلال بروتوكول القسمة الثنائية
5. إجراء التحكيم بخطوة واحدة على العقد الذكي

! OPML: التعلم الآلي مع مجموعة متفائلة

لعبة التحقق من مرحلة واحدة

الجوهر من لعبة التحقق من مرحلة واحدة هو بروتوكول تحديد الموقع بدقة، والذي يعمل بطريقة مشابهة لحساب التفويض (RDoC). عندما يقوم عدة أطراف بتنفيذ نفس البرنامج، يمكنهم من خلال استجواب بعضهم البعض تحديد الخطوات المثيرة للجدل وتقديمها إلى العقد الذكي داخل السلسلة للتحكيم.

تتميز لعبة التحقق من مرحلة واحدة OPML بالخصائص التالية:

• تم بناء بيئة تشغيل خارج السلسلة وتحكيم داخل السلسلة (VM)، مما يضمن توازن الاثنين.
• تم تحقيق مكتبة DNN خفيفة الوزن مخصصة، مما زاد من كفاءة استدلال نموذج الذكاء الاصطناعي
• استخدام تقنية الترجمة المتقاطعة، لتحويل كود استدلال نموذج الذكاء الاصطناعي إلى تعليمات VM
• استخدام شجرة ميركل لإدارة صور VM، فقط رفع جذر ميركل إلى داخل السلسلة

بعد تحديد خطوات النزاع من خلال بروتوكول ثنائي، يتم إرسالها إلى العقدة التحكيمية داخل السلسلة. أظهرت الاختبارات أنه على جهاز كمبيوتر عادي، يمكن إكمال استدلال النموذج الأساسي للذكاء الاصطناعي (MNIST تصنيف DNN) في غضون ثانيتين، بينما تستغرق عملية التحدي بأكملها حوالي دقيقتين.

! OPML: التعلم الآلي مع نظام التجميع المتفائل

لعبة التحقق متعدد المراحل

تتمثل قيود لعبة التحقق من المرحلة الواحدة في أنه يجب تنفيذ جميع الحسابات داخل VM، مما يمنع الاستفادة الكاملة من تسريع GPU/TPU أو المعالجة المتوازية. لمعالجة هذه المشكلة، قدمت OPML توسيع البروتوكول متعدد المراحل.

الفكرة الأساسية للبروتوكول متعدد المراحل هي: حساب فقط في المرحلة الأخيرة داخل VM، بينما يمكن تنفيذ المراحل الأخرى بشكل مرن في البيئة المحلية، مما يستفيد بشكل كامل من قدرة المعالجة CPU وGPU وTPU وحتى المعالجة المتوازية. هذا يزيد بشكل كبير من كفاءة تنفيذ OPML، مما يجعل أدائها قريبًا من مستوى الأداء في البيئة المحلية.

كمثال على التحقق من اللعبة على مرحلتين (k=2):

• المرحلة 2: التحويلات الحالة تتوافق مع تغيير "الأوامر الكبرى" لسياق الحساب
• المرحلة 1: لعبة تحقق مشابهة لمرحلة واحدة، تحويل الحالة يتوافق مع تعليمات ميكرو واحدة لـ VM

يبدأ المقدمون والمتحققون أولاً لعبة التحقق في المرحلة الثانية، لتحديد "الأمر الكبير" المتنازع عليه. ثم يدخلون المرحلة الأولى، لتحديد تعليمات VM الدقيقة المتنازع عليها، وأخيرًا يتم إرسالها إلى تحكيم البلوكتشين.

لضمان سلامة وأمان الانتقال بين المراحل، تعتمد OPML على شجرة ميركل، لاستخراج الأشجار الفرعية من المراحل العليا لضمان استمرارية عملية التحقق.

! OPML: التعلم الآلي مع مجموعة متفائلة

تطبيق OPML متعدد المراحل في نموذج LLaMA

في نموذج LLaMA، تعتمد OPML على طريقة من مرحلتين:

1. تمثيل عملية حساب ML/DNN كرسمة حساب G، حيث يخزن كل عقدة النتائج الحسابية الوسيطة.
2. استدلال النموذج هو عملية الحساب على الرسم البياني الحسابي، حيث يمثل الرسم البياني الكامل حالة الاستدلال.
3. المرحلة الثانية يتم فيها التحقق من لعبة الحساب على الرسم البياني، ويمكن استخدام وحدة المعالجة المركزية متعددة الخيوط أو وحدة معالجة الرسوميات
4. المرحلة الأولى ستقوم بتحويل حسابات العقد الفردية إلى تعليمات VM، مشابهة للبروتوكول ذي المرحلة الواحدة

عندما يظل حساب عقدة واحدة معقدًا، يمكن إدخال المزيد من المراحل لتحسين الكفاءة بشكل أكبر.

تحليل تحسين الأداء

افترض أن الرسم البياني للحساب يحتوي على n عقد، وكل عقدة تحتاج إلى m تعليمات دقيقة من VM، ونسبة تسريع GPU/الحساب المتوازي هي α:

1. OPML ذو المرحلتين أسرع بمقدار α من OPML ذو المرحلة الواحدة
2. حجم شجرة ميركل في OPML ذو المرحلتين هو O(m+n)، وهو أقل بكثير من حجم المرحلة الواحدة O(mn).

تصميم متعدد المراحل لا يحسن فقط كفاءة الحساب، بل يعزز أيضًا قابلية توسيع النظام.

! OPML: التعلم الآلي مع مجموعة متفائلة

ضمان التناسق واليقين

لضمان اتساق نتائج ML عبر الأنظمة الأساسية، اتخذت OPML تدبيرين رئيسيين:

1. استخدام خوارزمية النقطة الثابتة ( لتقنية التكميم )، لتمثيل وتنفيذ الحسابات بدقة ثابتة
2. استخدم مكتبة العائم المعتمدة على البرمجيات لضمان اتساق الوظائف عبر الأنظمة الأساسية

تتغلب هذه التقنيات بفعالية على التحديات التي تفرضها المتغيرات العائمة والفروق بين المنصات، مما يعزز من سلامة وموثوقية حسابات OPML.

OPML مقابل ZKML

تتمتع OPML بالمزايا التالية مقارنةً بـ ZKML:

• تكاليف حساب وتخزين أقل
• كفاءة تنفيذ أعلى
• يدعم نماذج أكبر حجما
• أسهل في التنفيذ والنشر

حاليا يركز OPML بشكل أساسي على استنتاج النموذج، لكن الإطار يدعم أيضًا تدريب النموذج، ويمكن استخدامه في مجموعة متنوعة من مهام التعلم الآلي. لا يزال مشروع OPML قيد التطوير النشط، وندعو المطورين المهتمين للمساهمة.

! OPML: التعلم الآلي مع نظام التجميع المتفائل