Tether發布QVAC跨平台BitNet LoRA框架：支援消費級設備訓練十億參數AI模型

Odaily星球日報訊 據官方公告，Tether宣布推出QVAC Fabric中的跨平台BitNet LoRA微調框架，實現對Microsoft BitNet（1-bit LLM）的訓練與推理優化。該框架顯著降低算力與記憶體需求，使十億參數級模型可在筆記型電腦、消費級GPU及智慧型手機上完成訓練與微調。

該方案首次實現BitNet模型在行動端GPU（包括Adreno、Mali及Apple Bionic）上的微調，測試顯示，125M參數模型可在約10分鐘內完成微調，1B模型約1小時級別完成，甚至在手機端可擴展至13B參數模型。

此外，該框架支援Intel、AMD及Apple Silicon等異構硬體，並首次實現非NVIDIA設備上的1-bit LLM LoRA微調。性能方面，BitNet模型在行動GPU上的推理速度較CPU提升2至11倍，同時在顯示記憶體佔用上較傳統16-bit模型最高降低約77.8%。

Tether表示，該技術有望打破對高端算力與雲端基礎設施的依賴，推動AI訓練向去中心化與本地化發展，並為聯邦學習等新型應用場景提供基礎。