Bittensor Subnet завершила самое масштабное в истории предварительное обучение LLM, регрессия нарратива DeAI

BlockBeats News, 16 марта, согласно официальным источникам, Bittensor подсеть Templar (SN3) завершила крупнейшее в истории децентрализованное предварительное обучение LLM Covenant-72B 10 марта.

Сообщается, что Covenant-72B — это языковая модель с 720 миллиардами параметров, предварительно обученная командой Templar на Bittensor Subnet 3, полностью основанная на общем интернете, без необходимости использования централизованных дата-центров. Модель достигла результата 67.1 в тесте MMLU (zero-shot), превзойдя централизованные базовые модели, такие как LLaMA-2-70B и LLM360 K2 при одинаковых условиях оценки. Это самая крупная полностью разрешенная совместная языковая модель на сегодняшний день, более 70 различных узлов предоставили вычислительные ресурсы на протяжении всей работы. Команда выпустила все веса и контрольные точки под лицензией Apache.

Возможно, под влиянием этой новости, Bittensor (TAO) и его токен подсети показали общий рост: TAO вырос на 54.8% за последние две недели. Токен подсети τemplar взлетел на 194% за последние 7 дней и сейчас торгуется по цене $19.3.