Tether AI开源TurboQuant技术，升级本地AI算力
2026-06-01 13:07
Odaily星球日报讯 Tether AI 正式推出开源 TurboQuant 技术，并将其整合至 QVAC SDK 0.12.0 版本。该技术基于谷歌研究院内存压缩算法，可在基本不损耗输出质量的前提下，将大语言模型 KV 缓存最高压缩 5 倍，大幅降低设备内存压力。
TurboQuant 可适配笔记本、手机、消费级 GPU、边缘设备及去中心化推理网络，让本地 AI 流畅处理复杂任务，兼顾数据隐私与使用效率。目前该技术已通过 Fabric 面向全球开发者开放。Tether 表示，此举旨在推动 AI 脱离中心化云服务限制，加速本地、去中心化 AI 生态落地。（Tether.io）
推荐文章
