أصدرت Tether إطار BitNet LoRA متعدد المنصات، ويمكن ضبط نموذج بمليار معلمة على أجهزة المستهلكين.

PANews في 21 مارس، وفقًا للإعلان الرسمي، أعلنت Tether عن إطلاق إطار BitNet LoRA للتدريب الدقيق عبر المنصات في QVAC Fabric، مما يحقق تحسينات في تدريب واستدلال Microsoft BitNet (1-bit LLM). هذا الإطار يقلل بشكل ملحوظ من متطلبات القدرة الحاسوبية والذاكرة، مما يسمح بتدريب وتعديل النماذج ذات المليار معلمة على أجهزة الكمبيوتر المحمولة، وحدات GPU الاستهلاكية، والهواتف الذكية.

هذه الحلول تحقق لأول مرة تعديل نماذج BitNet على وحدات GPU المحمولة (بما في ذلك Adreno، Mali، وApple Bionic)، وتظهر الاختبارات أن نموذج 125M معلمة يمكن تعديله في حوالي 10 دقائق، ونموذج 1B في حوالي ساعة، وحتى يمكن توسيعه إلى نموذج 13B معلمة على الهاتف المحمول.

بالإضافة إلى ذلك، يدعم هذا الإطار الأجهزة غير المتجانسة مثل Intel، AMD، وApple Silicon، ويحقق لأول مرة تعديل LoRA لنموذج 1-bit LLM على أجهزة غير NVIDIA. من حيث الأداء، سرعة الاستدلال لنموذج BitNet على وحدات GPU المحمولة أسرع من CPU بمقدار 2 إلى 11 مرة، كما أن استخدام الذاكرة أقل بنسبة تصل إلى 77.8% مقارنة بالنماذج التقليدية ذات 16-bit.

ذكرت Tether أن هذه التقنية من المتوقع أن تكسر الاعتماد على القدرة الحاسوبية العالية والبنية التحتية السحابية، وتدفع تدريب الذكاء الاصطناعي نحو اللامركزية والمحلية، وتوفر أساسًا لتطبيقات جديدة مثل التعلم الفيدرالي.