https://blog.sivn.net.cn/tags/rl/Recent content in RL on BlogHugo -- gohugo.iozh-cnSun, 12 Apr 2026 16:38:07 +0800https://blog.sivn.net.cn/post/rlquantization/Sun, 12 Apr 2026 16:38:07 +0800https://blog.sivn.net.cn/post/rlquantization/<h2 id="量化quantization">量化（quantization） </h2><p>把神经网络里原本高精度（如 32 位浮点数）的参数和激活值，用更少位数、更简单的数值来表示的技术。</p> <p>1-bit LLMs 就是极致量化的模型 这里把参数限制在 {−1, 0, 1} 三个值，叫三值量化（ternary quantization）</p> <p>目的:</p> <ol> <li>大幅降低推理计算成本</li> <li>提升硬件执行效率</li> <li>同时尽量保持模型效果不明显下降</li> </ol> <h3 id="对称量化symmetric-quantization">对称量化(Symmetric Quantization) </h3>https://blog.sivn.net.cn/post/seqmodels/Wed, 08 Apr 2026 00:00:00 +0000https://blog.sivn.net.cn/post/seqmodels/<h2 id="sequence-to-sequence-seq2seq-models">sequence-to-sequence (seq2seq) models </h2><p>序列到序列模型</p> <p>包含:</p> <ul> <li>Input Sequence</li> <li>编码器(Encoder)</li> <li>Context Vector</li> <li>解码器(Decoder)</li> <li>Output Sequence</li> </ul> <p>在这些早期的序列到序列模型中，编码器和解码器通常使用循环神经网络（RNN）来实现。</p> <h3 id="分类1">分类1 </h3><ol> <li>循环 / 状态演进类序列模块</li> </ol> <ul> <li>RNN / LSTM / GRU</li> <li>SSM</li> <li>RSSM</li> </ul> <ol start="2"> <li>注意力类序列模块</li> </ol> <ul> <li>Transformer</li> </ul> <h3 id="分类2">分类2 </h3><ol> <li>Deterministic model</li> </ol> <ul> <li>RNN</li> </ul> <ol start="2"> <li>Stochastic models</li> </ol> <ul> <li>SSM</li> </ul> <ol start="3"> <li>特殊</li> </ol> <ul> <li>RSSM</li> </ul> <p>里面既有确定性部分（像 GRU 一样的 又有随机性隐状态</p> <p>应该算作 Stochastic</p> <h2 id="链接">链接 </h2><p><a class="link" href="https://arxiv.org/abs/1811.04551" target="_blank" rel="noopener" >Learning Latent Dynamics for Planning from Pixels</a></p>