华为推出SINQ量化技术，降低LLM内存占用

华为研究院刚刚在 Hugging Face 上发布了 SINQ，一种新颖的免校准量化技术，能够在显著降低内存占用的同时实现最先进的 LLM 性能。