Deep Learning on Blog

nn-list

Sat, 06 Jun 2026 16:59:07 +0800

CNN

Convolutional Neural Network - 卷积神经网络

通过卷积核在输入上滑动提取局部特征，配合池化层逐层降低空间维度。具有局部连接和权值共享的特点，擅长处理图像等具有网格结构的数据，是计算机视觉的基石。

基本上涉及到图像都用CNN

RNN

Recurrent Neural Network - 循环神经网络

通过隐藏状态在时间步之间传递信息，使网络具备"记忆"能力，适合处理文本、语音等序列数据。原始 RNN 存在梯度消失问题，后续出现了 LSTM、GRU 等改进结构。

GNN

Graph Neural Networks - 图神经网络

面向图结构数据（节点 + 边）的神经网络，核心思想是通过"消息传递"聚合邻居节点信息来更新自身表示。适用于社交网络、分子结构、知识图谱等非欧几里得数据。

GCN

Graph Convolution Networks - 图卷积网络

将卷积操作推广到图上，通过邻接矩阵对邻居特征做加权聚合，相当于在图上做一阶近似的谱卷积。是最经典、最常用的 GNN 变体之一。

GATs

Graph Attention Networks - 图注意力网络

在聚合邻居信息时引入注意力机制，为不同邻居动态分配权重，而非像 GCN 那样使用固定的归一化系数，从而更灵活地捕捉节点间的重要性差异。

Graph Auto-Encoders

Graph Auto-Encoders - 图自编码器

无监督的图表示学习方法，编码器将节点映射到低维隐空间，解码器尝试重构图结构（如邻接矩阵）。常用于链接预测和节点聚类。

GGN

Graph Generative Networks - 图生成网络

用于生成新图结构的模型，学习真实图的分布后采样出新的图。常见于分子生成、药物设计等任务。

STGNN

Spatio-Temporal GNN - 时空图神经网络

也叫 Graph Spatial-temporal Network - 图时空网络

同时建模空间维度（图结构）和时间维度（动态变化）的网络，适合交通流量预测、动作识别等时空数据场景。

ST-GCN

Spatio-Temporal GCN - 时空图卷积网络

常用于时空序列预测

尤其:

数据之间有图结构关系
同时有时间变化

例如:

骨架动作识别

Transformer

完全基于自注意力机制（Self-Attention）的架构，摒弃了循环和卷积，能并行处理整个序列并捕捉长距离依赖。是 BERT、GPT 等大模型的核心，已成为 NLP 乃至多模态领域的主流架构。

DiT

Diffusion Transformer

AR-Transformer

Autoregressive(自回归) Transformer

VLN List

Tue, 12 May 2026 15:38:53 +0800

只是简单罗列了一堆模型，并不能确保性能。而且很多模型/方案跟论文不匹配，这部分模型使用删除线标记。

opened

title	id	source
HiMemVLN	2603.14807	VLN-CE
CapNav	2602.18424	origin?
DV-VLN	2601.18492	origin?
SpatialNav	2601.06806	origin?
VLN-MME	2512.24851	origin?
VLN-Zero	2509.18592	VLN-CE
FSR-VLN	2509.13733	origin?
HA-VLN 2.0	2503.14229	VLN-CE
~~UniGoal~~	2503.10630	origin?
SG-Nav	2410.08189	origin?
VLN-CE	2004.02857	origin

VLN-MME

项目是无仿真评估框架。主要目的是探索MLLM，但仍有借鉴意义。

借助VLN-MME，我们观察到，为现有智能体添加思维链（CoT）推理和自我反思功能会导致意想不到的性能下降。这表明MLLM在具身导航任务中缺乏上下文感知能力；尽管它们能够遵循指令并构建输出结构，但其三维空间推理的保真度较低。此外，我们证明，通过情境学习中的简单故障案例，可以显著提升智能体的性能。

UniGoal

数据不能复现

unopened

title	id	source
VLN-Cache	2603.07080
AutoFly	2602.09657
LCLA	2602.07629
TIC-VLA	2602.02459
VLN-Pilot	2602.05552
spatial-vln	2601.12766	VLN-CE
Efficient-VLN	2512.10310
zeroshot-vln	2509.20499	VLN-CE
GC-VLN	2509.10454
se-vln	25.7
UAV-VLN	2504.21432

Neural Network 中的 Weight 与 Activation

Wed, 06 May 2026 17:08:40 +0800

Weight（权重）

权重是神经网络中可学习的参数，决定了输入如何被变换。

以 Attention 机制为例，weight 是 Q/K/V 投影矩阵：

Q (Query): 查询向量
K (Key): 键向量
V (Value): 值向量

Attention 计算流程

输入 X 经过三套不同的线性层，得到 Q/K/V：
- Q = X @ Wq
- K = X @ Wk
- V = X @ Wv
用 Q 和 K 计算注意力分数：
- Attention = softmax(Q @ K^T / sqrt(d))
用注意力分数对 V 加权求和，得到输出：
- Output = Attention @ V

Activation（激活值）

Activation 是神经网络的中间特征/输出值，即输入经过某一层（layer）之后临时算出来的结果。

例如：

h = relu(X @ W + b) # h 就是这一层的 activation

注意区分：

Weight：模型学到的参数，训练后固定
Activation：每次前向传播时动态计算的中间结果，随输入变化

Quantization

Sun, 12 Apr 2026 16:38:07 +0800

量化（quantization）

把神经网络里原本高精度（如 32 位浮点数）的参数和激活值，用更少位数、更简单的数值来表示的技术。

1-bit LLMs 就是极致量化的模型这里把参数限制在 {−1, 0, 1} 三个值，叫三值量化（ternary quantization）

目的:

大幅降低推理计算成本
提升硬件执行效率
同时尽量保持模型效果不明显下降