Tether AI 開源 TurboQuant 技術，升級本地 AI 算力
2026-06-01 13:07
Odaily星球日報訊 Tether AI 正式推出開源 TurboQuant 技術，並將其整合至 QVAC SDK 0.12.0 版本。該技術基於谷歌研究院記憶體壓縮演算法，可在基本不損耗輸出品質的前提下，將大語言模型 KV 快取最高壓縮 5 倍，大幅降低設備記憶體壓力。
TurboQuant 可適配筆電、手機、消費級 GPU、邊緣裝置及去中心化推理網路，讓本地 AI 流暢處理複雜任務，兼顧數據隱私與使用效率。目前該技術已透過 Fabric 面向全球開發者開放。Tether 表示，此舉旨在推動 AI 脫離中心化雲服務限制，加速本地、去中心化 AI 生態落地。（Tether.io）
推薦文章
