BTC
ETH
HTX
SOL
BNB
查看行情
简中
繁中
English
日本語
한국어
ภาษาไทย
Tiếng Việt

Tether AI 開源 TurboQuant 技術,升級本地 AI 算力

Odaily星球日報訊 Tether AI 正式推出開源 TurboQuant 技術,並將其整合至 QVAC SDK 0.12.0 版本。該技術基於谷歌研究院記憶體壓縮演算法,可在基本不損耗輸出品質的前提下,將大語言模型 KV 快取最高壓縮 5 倍,大幅降低設備記憶體壓力。

TurboQuant 可適配筆電、手機、消費級 GPU、邊緣裝置及去中心化推理網路,讓本地 AI 流暢處理複雜任務,兼顧數據隱私與使用效率。目前該技術已透過 Fabric 面向全球開發者開放。Tether 表示,此舉旨在推動 AI 脫離中心化雲服務限制,加速本地、去中心化 AI 生態落地。(Tether.io)