标签:SVD量化分析

SVDQuant:高效扩散模型后训练量化技术提升AI性能与推理速度

SVDQuant是MIT研究团队推出的后训练量化技术,针对扩散模型,将模型的权重和激活值量化至4位,减少内存占用加速推理过程。SVDQuant引入高精度的低秩分支吸收...
阅读原文