https://blog.sivn.net.cn/tags/quantization/Recent content in Quantization on BlogHugo -- gohugo.iozh-cnSun, 12 Apr 2026 16:38:07 +0800https://blog.sivn.net.cn/post/nn-quantization/Sun, 12 Apr 2026 16:38:07 +0800https://blog.sivn.net.cn/post/nn-quantization/<h2 id="量化quantization">量化（quantization） </h2><p>把神经网络里原本高精度（如 32 位浮点数）的参数和激活值，用更少位数、更简单的数值来表示的技术。</p> <p>1-bit LLMs 就是极致量化的模型 这里把参数限制在 {−1, 0, 1} 三个值，叫三值量化（ternary quantization）</p> <p>目的:</p> <ol> <li>大幅降低推理计算成本</li> <li>提升硬件执行效率</li> <li>同时尽量保持模型效果不明显下降</li> </ol> <h3 id="对称量化symmetric-quantization">对称量化(Symmetric Quantization) </h3>