أصدرت Tether إطار QVAC BitNet LoRA متعدد المنصات: يدعم تدريب نماذج الذكاء الاصطناعي ذات مليار معلمة على الأجهزة الاستهلاكية

أفادت Odaily وفقًا للإعلان الرسمي، أن Tether أعلنت عن إطلاق إطار BitNet LoRA للتدريب الدقيق عبر المنصات ضمن QVAC Fabric، مما يحقق تحسينات في تدريب واستدلال Microsoft BitNet (1-bit LLM). يقلل هذا الإطار بشكل ملحوظ من متطلبات القدرة الحاسوبية والذاكرة، مما يسمح بتدريب وتعديل النماذج ذات المعلمات بمليارات على أجهزة الكمبيوتر المحمولة، وحدات معالجة الرسومات الاستهلاكية، والهواتف الذكية.

لأول مرة، تمكن هذا الحل من تعديل نموذج BitNet على وحدات معالجة الرسومات المحمولة (بما في ذلك Adreno، Mali وApple Bionic)، وتظهر الاختبارات أن نموذج 125M معلمة يمكن تعديله في حوالي 10 دقائق، ونموذج 1B في حوالي ساعة، وحتى يمكن توسيعه إلى نموذج 13B معلمة على الهاتف المحمول.

بالإضافة إلى ذلك، يدعم الإطار أجهزة Intel، AMD وApple Silicon وغيرها من الأجهزة المتغايرة، ولأول مرة يحقق تعديل LoRA لنموذج 1-bit LLM على أجهزة غير NVIDIA. من حيث الأداء، زادت سرعة الاستدلال لنموذج BitNet على وحدات معالجة الرسومات المحمولة بمقدار 2 إلى 11 مرة مقارنة بوحدة المعالجة المركزية، كما انخفض استخدام الذاكرة بنسبة تصل إلى 77.8% مقارنة بالنماذج التقليدية ذات 16-bit.

ذكرت Tether أن هذه التقنية قد تكسر الاعتماد على القدرة الحاسوبية العالية والبنية التحتية السحابية، وتدفع تدريب الذكاء الاصطناعي نحو اللامركزية والمحلية، وتوفر أساسًا لتطبيقات جديدة مثل التعلم الفيدرالي.