1. 先把复现这件事拆开：VisionMamba 到底要复现什么

VisionMamba 复现这件事，我在过去一年多里前后磨了三轮，最初的目标很朴素：把官方权重跑起来，遇到分类任务时能正常出结果；后来才发现真正难的是后面两层——让训练能收敛、损失曲线看起来不像坏掉；把每一层的输出对上，误差压到可接受范围。所以这篇不谈“概念科普”，只谈一个从业者从零开始复现 VisionMamba（下称 Vim）时的完整路径、参数依据和踩坑记录。适合两类人看：一类是想把 Vim 当成 backbone 接到自己任务上的工程师，另一类是学生或自学者，想在有限算力下把结构先生成出来、先搞清楚原理。哪怕你只有一张消费级显卡，文中关于显存预算、梯度累积、序列切分的换算方法也能直接用。

我先把结论性的判断放在前面，省得你读到一半才发现方向不对：Vim 的复现难点不在模型结构本身，结构其实不复杂，一个 block 里就是归一化、线性投影、深度可分离卷积、状态空间扫描、门控相乘、残差；真正的难点有三块，一是状态空间那一套自定义算子的编译和版本匹配，二是有向扫描带来的“方向语义”理解偏差，三是训练超参的敏感性——它比同级 ViT 更吃学习率 warmup 和权重衰减的设置。这篇文章就按这三块展开，中间穿插参数量、显存、序列长度的具体计算过程。

1.1 一句话讲清 Vim 的核心机制

说人话版本：Vim 把一张图切成固定大小的 patch，拉成一条序列，然后用一种线性的、带“遗忘和记忆”机制的序列模型去扫这条序列；因为图像没有天然的前后顺序，所以它正着扫一遍、反着扫一遍，再把两个方向的结果合起来。

这里的关键词是“带遗忘和记忆”。传统注意力机制在每个位置上都要和所有位置算一次相关性，计算量随序列长度平方增长；而状态空间模型维护一个隐状态，每读入一个 token 就更新一次状态，计算量随序列长度线性增长。代价是它有方向性——读到第 i 个 token 时，只能“记得”前面读过的内容。图像不是文本，把一个 14×14 的 patch 网格拉成 196 长度的序列，正序和逆序在语义上没有差别，所以双向扫描就是把这种人为的方向性偏差抹平的手段。

理解这一点之后，很多实现细节就顺了：为什么代码里forward和backward两套投影参数是分开的（因为两个方向的“记忆规则”本来就应该不同）；为什么 patch 之后还要加一个可学习的位置编码（纯状态空间模型对位置不敏感，需要额外注入位置信息）；为什么卷积核只用 3（局部归纳偏置，补偿状态空间模型在局部建模上的不足）。这些都是设计上的“补丁”，理解了它们的动机，你改结构时才不会改错。

1.2 三层验收标准：跑通、对齐、可训

我把复现拆成三个验收层级，每一层的判定标准都很具体，别混在一起看，否则很容易自我感动。

第一层是跑通：能加载权重、能前向、输出 shape 正确、不报错。这一层最容易被误认为“复现完成”，实际上它只证明了代码没有语法和维度错误。判定标准：分类头输出维度等于类别数，softmax 后概率和接近 1，同一张图两次前向结果完全一致（排除随机性）。

第二层是对齐：在固定输入、固定随机种子、关闭所有增强和 dropout 的条件下，自己实现的某一层输出与参考实现的输出逐元素误差在 1e-4 量级以内。判定标准：不是看最终 top-1，而是看中间张量。最终指标受数据增强、权重版本、预处理细节影响太大，不足以作为对齐依据。

第三层是可训：从随机初始化开始，在目标数据集上训练若干个 epoch，损失能稳定下降，验证集指标能达到参考结果的合理区间。判定标准：损失曲线不出现前 2 个 epoch 就崩到常数、不出现梯度范数爆炸、不出现大量 NaN。

这三层的顺序不能反。我见过不少人第一层过了就直接开训，训了三天发现指标差 20 个点，回头查是预处理里的归一化均值方差写错了，白烧了三天卡时。所以我的建议永远是：先把第二层做扎实，再动训练。

1.3 复现路线的三个岔路口怎么选

复现路线有三条，各有适用场景，选之前先想清楚你的算力和目标。

我最终走的是路线 C。理由很实在：自定义状态空间算子的 CUDA 实现有几百行，涉及显存布局、并行扫描、反向传播的手写梯度，重写它既不能提升你对模型的理解，又会引入大量难以定位的数值误差。把它当作一个黑盒依赖，把精力放在主干结构和训练配置上，性价比最高。而主干部分必须自己写一遍，因为你要接下游任务时，改的就是主干。

这里有个判断标准供参考：如果你只是想把 Vim 当 backbone 用在一个检测或分割任务上，路线 A 完全够；如果你要改扫描方向、改门控方式、改 patch 融合策略，那必须走路线 B 或 C，因为官方代码的抽象层级不一定适配你的改动。

2. 环境与算子编译：复现路上第一道坎

这一章是我花时间最多的地方，也是最容易让人放弃的地方。Vim 依赖两个非纯 Python 的扩展：一个提供状态空间扫描的核心算子，一个提供因果深度卷积的加速实现。这两个包都需要在本地编译，编译链路上任何一环版本不匹配都会失败。我前后在三台不同配置的机器上装过，每次都会遇到至少一个报错，所以把完整的对齐清单和报错处理整理下来。

2.1 版本矩阵对齐清单

无数人栽在版本上。核心原则只有一条：编译期使用的工具链版本，必须和运行时使用的框架版本严格一致。框架版本指的是主框架的大版本号，工具链指的是编译器套件版本。这两者错配，编译能过但运行时报符号未定义，或者干脆编译就挂。

下面是我实测可用的组合，注意这不是唯一解，但是验证过的解：

安装顺序必须是：先装框架，再装算子包 B，最后装算子包 A。这个顺序不是随便定的——算子包 A 在编译时会引用算子包 B 的头文件和库，反过来不成立。我第一次装的时候图省事用一条命令批量安装，结果编译到一半报找不到符号，折腾了一个多小时才反应过来是顺序问题。

还有一个细节：如果你在容器里装，注意编译时的环境变量要显式指定目标架构。默认情况下编译器可能只针对本机当前显卡的架构生成代码，换个型号的卡跑就会报“没有可用的内核”。正确的做法是把目标架构列表写全，覆盖你可能用到的所有型号。代价是编译时间从几分钟涨到二十几分钟，但换来的是可移植性。

2.2 从源码编译两个关键算子

完整流程我按顺序写一遍，你照着敲基本不会出问题。第一步先确认编译器能看到框架的头文件路径，这一步失败后面全白搭：

# 确认工具链可见 which nvcc nvcc --version python -c "import torch; print(torch.__version__, torch.version.cuda)"

两个版本号必须对得上。对不上就直接换环境，别硬扛，我试过硬扛，最后是环境重装解决的。

第二步装因果卷积包，指定不隔离构建环境，让它能看到已安装的框架：

pip install --no-build-isolation causal-conv1d

第三步装扫描核心包，同样禁用构建隔离：

pip install --no-build-isolation mamba-ssm

--no-build-isolation这个参数是关键。默认情况下 pip 会创建一个干净的隔离环境去编译，那个环境里没有框架，编译脚本找不到头文件就会报错。这个坑极其常见，网上大部分“装不上”的提问都是这个原因。如果你之前用默认方式装失败过，记得先清掉残留的构建缓存再重来，缓存的中间产物会污染新的编译过程。

第四步验证安装，这一步必须做，别跳过：

import torch from mamba_ssm import Mamba m = Mamba(d_model=64, d_state=16).cuda() x = torch.randn(2, 32, 64).cuda() y = m(x) print(y.shape) # 期望 [2, 32, 64] print(torch.isfinite(y).all()) # 期望 True

如果输出里出现 NaN 或者 Inf，说明算子编译有问题，通常是架构列表没写对，或者驱动版本太旧。这种情况别去调模型参数，问题在编译层。

2.3 编译期的典型报错与处理

我把遇到过的报错按出现频率排一下，方便你对照。

第一个高频报错是头文件找不到，关键词是 “no such file or directory”。原因九成是构建隔离，解法就是上面说的--no-build-isolation。少见一点的原因是框架装在 conda 环境但编译时用的是系统 Python 的头文件，解法是显式指定头文件路径。

第二个是符号未定义，关键词是 “undefined symbol”。原因是编译期和运行期的框架版本不一致，或者装了多个版本的同一个包导致加载了旧的动态库。处理方式是先卸载干净再重装，尤其注意pip list | grep一下有没有残留的多版本。

第三个是编译超时或内存耗尽，关键词是 “Killed” 或 “internal compiler error”。原因是并行编译进程太多，吃满了内存。解法是限制并行度：

MAX_JOBS=4 pip install --no-build-isolation mamba-ssm

第四个是运行时报“没有可用内核”，关键词是 “no kernel image is available”。这就是前面说的架构列表问题，需要在编译前设置目标架构环境变量，把你要用的显卡架构全部列进去。

注意：这几个报错的处理顺序很重要。先确认版本矩阵，再看构建隔离，最后才怀疑硬件。我见过有人一上来就怀疑显卡坏了，重装系统三次，实际只是 pip 的隔离环境问题。

3. 模型结构手拆：从 patch 到 logits 的每一步

环境搞定之后，真正有意思的部分来了。这一章我把主干拆到每一行都能对应的程度，重点讲那些“看着不起眼但改了就掉点”的设计点。为了讲清楚，我先给一条完整的前向链路，再逐个环节深挖。

3.1 主干前向流程的完整链路

输入是一张 224×224 的三通道图。第一步 patch 化：用 16×16 的卷积核、步长 16 做一次卷积，得到 14×14=196 个 token，每个 token 维度是d_model。这里有个容易忽略的点——卷积核大小和步长必须相等，否则会产生重叠或空隙，token 数量算不对。196 这个数字心里要有数，后面所有显存和算力的估算都从它出发。

第二步加分类 token 和位置编码。分类 token 是可学习的向量，拼在序列头部，序列长度变成 197。位置编码也是可学习的，形状是 1×197×d_model，直接相加。

第三步过若干个 block。每个 block 的结构是：

x -> LayerNorm -> 线性投影(升维到 2*d_model) -> 分成两路 u, v u -> 深度可分离卷积(k=3, p=1) -> 激活 -> 状态空间扫描(正向) -> 状态空间扫描(反向, 复用另一套参数) -> 两方向结果相加 v -> 激活（作为门控） 门控结果与扫描结果逐元素相乘 -> 线性投影(降回 d_model) -> 残差相加 -> LayerNorm -> 升维 -> 激活 -> 降维 -> 残差相加

这个结构里有两个残差分支，前一个是 token 混合（负责空间信息交互），后一个是通道混合（类似前馈网络）。我第一次实现的时候把两个残差合并成一个，指标直接掉了一个多点，因为 token 混合和通道混合的作用不能相互替代。

第四步归一化加分类头。取序列第一个位置（也就是分类 token）的输出，过一层归一化，接线性层映射到类别数。

3.2 双向扫描的实现细节与参数共享

这是整个结构里最容易搞错的地方，我专门展开。

状态空间模型的核心是一个离散化的线性系统，每个位置读入一个输入，更新一个隐状态，然后输出。它有三个关键参数：状态维度（决定隐状态有多大）、时间步长（决定更新速度）、以及输入输出投影矩阵。方向性就体现在“更新隐状态时只能看到之前的内容”。

双向扫描的做法是：把序列正序跑一遍得到一路输出，把序列翻转后跑一遍得到另一路输出，翻转回来与第一路相加（也有实现是拼接后投影）。

关键的实现分歧点在参数共享上。有两种做法：一是两个方向共享完全相同的参数（只做翻转），二是两个方向各自持有独立的投影参数。Vim 用的是后者，正向和反向各有一套独立的输入投影、时间步长投影和状态矩阵参数。如果你按前者实现，参数量会少掉一截，而且损失会明显升高——因为它丢失了方向上的表达能力。

我在这里踩过一次坑：为了省显存，我一开始让两个方向共享参数，训了 30 个 epoch 之后指标始终比参考低 3 个点左右，怎么调学习率都上不去。后来对着参数名列表一条条核对，才发现少了整整一组投影参数。这种错误很难通过看损失曲线发现，因为曲线看起来很健康，只是上限低。

另一处细节是卷积的位置。深度可分离卷积必须放在扫描之前，作用是先做一次局部信息混合，把相邻 token 的信息聚合进来，弥补状态空间模型局部建模能力不足的问题。卷积核大小取 3，边界按 same 方式填充，保证序列长度不变（197 进、197 出）。这一点没做对的话，序列长度会变成 195 或 199，后面的维度检查会直接报错，所以反而容易发现。

还有一处是门控分支的激活函数。我这里用的是 SiLU，不是 ReLU，也不是 GELU。这个选择影响不大但确实有影响，SiLU 平滑且负半轴有非零输出，门控的表达能力更强。如果你想换，可以试，但要重新训一遍再比较。

3.3 那些不起眼但影响精度的设计点

这几个点官方文档里不会写，但都是我在对齐过程中一处处试出来的。

第一，归一化的位置。整个 block 用的是前置归一化（先归一化再进子层），不是后置。差别在于前置归一化训练更稳，不需要精心的学习率预热，后置则需要。如果你误用后置，前几个 epoch 的损失会剧烈震荡，很容易误判成学习率太大。

第二，位置编码的加法时机。必须在 patch 化之后、进 block 之前加，而且只加一次。有的实现会在每个 block 前都加一遍位置编码，那会让位置信息被过度放大，指标掉得厉害。

第三，残差分支里的随机丢弃路径。训练时对残差分支的输出做随机丢弃，丢弃率按层线性递增，从 0 递增到设定上限。这个技巧对深层模型很重要，不然后面的层学不动。推理时关闭。我一开始忘了做线性递增，全部用同一个丢弃率，深层训练明显不足。

第四，分类 token 的初始化。用截断正态分布，标准差取一个较小的值。用全零初始化也可以训，但收敛稍慢。

第五，权重初始化。线性层用截断正态，偏置全零，归一化的缩放参数初始化为 1、偏移初始化为 0。这些看起来是废话，但如果你从别的模型挪代码过来，很可能带着别人的初始化策略，指标就差那么一点。

3.4 下游头部接入与迁移改造

把分类模型改成检测或分割的 backbone，需要动三个地方。

第一，去掉分类 token 和最后的分类头，只保留 patch 化和 block 堆叠。注意分类 token 在 patch 化后的序列里是第一个元素，删掉之后序列长度从 197 变回 196，恢复成 14×14 的网格，方便还原成特征图。

第二，还原特征图。状态空间模型的输出是序列，需要 reshape 成[批, 通道, 高, 宽]。如果你的下游任务需要多尺度特征，就要在中间层引出特征，这时候要注意 reshape 的顺序，序列的排列是按行优先展平的，reshape 时保持一致。

第三，处理分辨率变化。Vim 原设计是固定 224 输入，改成其他分辨率时位置编码的长度会对不上。有两种处理：一是对位置编码做双线性插值，二是去掉绝对位置编码改用相对形式（需要重训）。做检测任务常用前者，我实测插值后指标损失可控，但插值方式要和 patch 网格对齐，别直接对一维序列插值，那样会破坏二维结构。

这里有个实操建议：接下游之前，先在分类任务上把主干训到接近参考指标，冻结主干再训头部，跑通之后再解冻联合微调。直接联合微调很容易因为学习率不匹配把预训练权重破坏掉，我吃过这个亏，前 5 个 epoch 指标不升反降。

4. 训练配置与数据管线

模型写对了只是开始，训练配置决定了你能不能真的复现出指标。这一章讲数据、超参和显存三件事，每件都给出可对照的数值和换算过程。

4.1 数据准备与增广策略

如果目标是复现论文指标，数据必须是同级别的规模，这一步没有捷径。但大多数人的算力撑不住，所以我给两套方案。

方案一，完整数据全量训练。数据侧需要的是按类别分目录的图片，或者打包好的二进制格式。后者的读取速度明显更快，因为避免了大量小文件的随机读取开销。我实测过，同样一张卡，用打包格式比用目录格式的数据吞吐高出一截，训练时间能省下两三成。

方案二，小数据先验证。取一个子集或者用较小的数据集先跑通全流程，确认训练管线没问题，再上全量。我推荐所有人先走方案二，因为训练管线的 bug 往往在第一个 epoch 就暴露，用小数据跑一轮只要几十分钟，比上全量之后发现不对再回头查要省太多。

增广策略用的是两段式混合：前段做随机裁剪加翻转，后段做几种混合增广按概率叠加。具体配置如下：

预处理里的归一化参数必须和预训练权重一致。这一条我强调很多次，因为它是最隐蔽的错误来源——均值方差写反、写错、或者用了另一套数据集的统计量，模型能训但指标永远差几个点，而且你很难想到是这里的问题。

4.2 超参对照与学习率调度的计算

核心超参我列个对照表，这些数值不是我拍的，是结合常见配置和实测调整得到的：

学习率与批大小的换算关系，我给个具体算例：假设参考配置是批 1024、学习率 5e-4，你只有一张卡能塞下批 64，那就用梯度累积 16 步来等效批 1024。如果你不想用累积，直接用批 64 训练，学习率按平方根缩放原则大约取 5e-4 乘以 (64/1024) 的平方根，约 1.25e-4。但要注意，批太小会让归一化层的统计量不稳，指标通常会掉，所以我更推荐累积方案。

预热轮数也值得说一句。状态空间模型的隐状态在训练初期很容易累积出很大的数值，没有预热的话前几十步梯度范数会飙到很高，然后一路 NaN。20 轮预热是我试下来比较稳的值，如果你的批更小或者数据更难，可以加到 30 轮。

余弦退火的形状要注意：最低学习率不要设成 0，设成基础学习率的百分之一左右。设成 0 会让最后几十轮完全不更新，白白浪费。

4.3 显存预算与梯度累积的换算

这部分是我觉得最该会算的，会算就不用在试错中反复爆显存。

先算激活显存。一个 block 里需要保存的中间张量大致有这么几个：归一化输出、升维后的两路、卷积输出、扫描的两路输出、门控结果、降维输出、以及通道混合分支的两三个张量。粗算下来一个 block 每层约有 8 到 10 个与输入同形状的张量需要保存用于反向传播。

单个张量的大小 = 批大小 × 序列长度 × 维度 × 字节数。以 768 维、197 长度、批 32、半精度（2 字节）为例：

32 × 197 × 768 × 2 ≈ 9.7 MB

乘上每层约 9 个张量，再乘 24 层：

9.7 MB × 9 × 24 ≈ 2.1 GB

再加上参数、梯度、优化器状态（AdamW 每个参数要存两个动量，用半精度算是 4 字节每参数）、以及前向时的临时缓冲，总显存大概是激活的 3 到 5 倍。所以这个配置下大约需要 8 到 10 GB，一张 24 GB 的卡能塞下批 32 还有余量。

如果你要的批更大，梯度累积换换算方式：

等效批大小 = 单次批大小 × 累积步数 × 并行卡数

例如单次批 8、累积 16、单卡，等效批 128。注意学习率要按等效批调整，不是按单次批。另外，梯度累积时归一化层的统计量是按单次批算的，和真的大批训练有细微差异，这是累积方案的固有代价，实践中影响不大。

还有一个省显存的技巧：把归一化和卷积的中间结果及时释放，用检查点重算（时间换显存）。我一般在前半段 block 上用重算，后半段不用，因为在保证深层精度的前提下，重算放在浅层更划算。开启重算后显存能降三到四成，代价是训练慢两成左右。这个取舍在显存吃紧的时候非常值。

提示：显存够不够，先按上面的公式估一遍再动手，比一次次试快得多。尤其是要改分辨率的时候，序列长度是按面积平方增长的——224 变 384，序列长度从 196 涨到 576，接近 3 倍，显存也跟着涨 3 倍。

5. 精度对齐与性能验证

到这一步模型能训了，但你还不知道对不对。这一章讲怎么判断“对”，以及怎么用数据支撑你的判断。

5.1 逐层数值对齐的方法

对齐我用的是“锚点法”：在参考实现和自己实现里同时注册钩子，抓取若干个关键张量，逐一比对。抓取的锚点我固定这几个：patch 化输出、位置编码相加后、第一个 block 的归一化输出、第一个 block 的扫描正向输出、第一个 block 的整体输出、最后一个 block 的输出、最终 logits。

比对时要做的准备：固定随机种子、关闭丢弃、关闭所有随机增广、用同一份权重（从参考实现导出的状态字典，逐键加载并检查有没有遗漏或多余）、输入用同一张图。这些条件缺一个，比对结果就没有意义。

关于误差阈值，我的经验标准是这样的：

如果某一层的误差突然跳一个量级，问题就在那一层，往前一层一层查。我第一次对齐的时候，patch 层误差是 0，但第一个 block 输出误差到了 1e-1，定位到是卷积的填充方式写错了——我用的是 0 填充，正确做法是先做对称填充再做卷积，等价于 same 填充。这个错误在前向里只体现为边界几个 token 的差异，肉眼完全看不出来，只有数值比对才能发现。

还有一次是误差在所有层都很小但最终 logits 差很多，查了半天发现是分类头的权重加载时键名映射错了，有一部分权重实际没加载上，保持随机初始化。所以对齐之前一定要做一次权重加载完整性检查，比对新旧状态字典的键集合是否完全一致。

5.2 吞吐与显存的实测口径

性能数据很容易被误读，我把测量口径先说清楚。

测吞吐要用固定的输入形状、固定的批大小、预热足够多的轮次、重复多次取中位数。预热这一条非常重要，第一次迭代包含了算子初始化和显存分配，时间往往是稳态的好几倍，不预热就测出来的数字完全没有参考价值。我一般预热 20 轮，测 100 轮。

对比对象要选得公平。和注意力架构比吞吐，得在同一分辨率、同一维度、同一批大小下比。批大小对两者影响趋势不同：批小的时候注意力架构反而可能更快，因为并行度高；批大了状态空间模型的线性优势才显现。所以要给一组批大小下的曲线，而不是一个数。这个现象我第一次测的时候很困惑，以为自己的实现有问题，后来在多组批大小下扫了一遍才看明白趋势。

显存测量要区分峰值和稳态。峰值出现在第一次反向传播，因为要为所有中间张量分配空间；稳态是之后反复迭代时的占用。报告里两个都给，峰值决定你能不能跑，稳态决定你能开多大批。

还有一点值得提醒：不同批大小下的吞吐不是线性关系。批翻倍，吞吐可能只提升 1.6 倍，因为计算单元利用率已经饱和。所以找最优点的方法是扫一遍批大小，看吞吐/显存的比值，而不是一味加大批。

5.3 结果不一致时的归因路径

指标比参考低的时候，按这个顺序查，从高概率到低概率：

第一，预处理。归一化参数、图片通道顺序、尺寸变换的插值方式。这三样任何一样不对，指标差 2 到 5 个点是常事。查法是拿一张图，跑完整预处理管线，把结果和参考实现的预处理结果逐元素比。

第二，权重加载。键名映射是否有遗漏，是否有层被跳过。查法是加载后遍历所有参数，打印每个参数的统计量（均值、标准差、是否有非有限值），和参考实现对比。随机初始化和加载成功的参数在统计量上差异很明显。

第三，结构细节。双向扫描的参数是否独立、卷积的位置和填充、归一化的位置、残差的数量。查法是逐层比对，就是上一节说的方法。

第四，训练配置。学习率、预热轮数、权重衰减、增广强度。这几项的影响是渐进的，不会让指标突然掉很多，但会稳定地低几个点。

第五，评估流程。这一个最容易被忽略。评估时的裁剪比例、是否做中心裁剪、批归一化是否切到推理模式、是否用了多裁剪评估。参考实现的评估配置如果比你复杂，指标自然高。查法是严格照抄评估代码，别自己写。

这个顺序的价值在于它按“排查成本从低到高”排列。预处理和评估流程的排查只要几分钟，结构排查要几小时，训练配置要重训。按这个顺序走能省大量时间。

6. 踩坑实录与速查表

最后一章把我能想起来的坑整理成可查的形式，加上几条不上文档的经验。

6.1 高频问题速查表

6.2 几个不上文档的实操心得

第一条，先跑最小用例再跑全量。任何新环境、新改动，先在 32×32 的小图上跑 2 个 block、批 2、训 10 步，确认不报错、损失能动、显存没炸，再放大。这个习惯帮我省下的时间以天计。最小用例的价值在于它把问题空间压缩到最小，任何报错都能快速定位。

第二条，保留一份“已验证”的配置快照。环境变量、版本号、超参、随机种子，全部记下来。复现最大的敌人不是难度，是“上次明明能跑”。我好几次因为随手升级了一个依赖，导致之前的结果再也复现不出来，只能从头调。现在我的做法是每个能跑通的配置都存成一个独立的环境描述文件，改之前先备份。

第三条，别迷信单个指标。同一份代码，换三个随机种子跑出来的指标可能差半个点以上，这是正常的方差。所以判断“复现成功”时，用三个种子取均值，别拿一次结果和论文数字死磕。如果你的一次结果比参考低 1 个点以内，基本可以认为是对齐的，剩下的差异在合理波动范围内。

第四条，扫描算子的状态维度不要随意调。这个参数决定隐状态的大小，看起来调大一点能提升表达力，实际上调大之后显存和计算都会涨，而且收益很快饱和。我试过从基准值翻倍，指标几乎没变，训练时间涨了三成。除非你有明确的理由，否则保持参考值。

第五条，改结构之前先做个消融基线。你想改门控、改扫描方向、改卷积核大小，先在不改的情况下跑一次，拿到基线。没有基线的改动等于盲改，你永远不知道提升是真的还是随机波动。我做这类实验时习惯固定三个种子，改动只动一个变量，一次只验证一个假设。

我个人的体会是，VisionMamba 这类结构的复现，八成时间花在环境和数值对齐上，两成花在训练调参上，真正写模型代码的时间可能只占一成。这不是效率低，而是这类带自定义算子的模型本来就是这样——结构越简洁，说明它把复杂度都藏在了算子和数值细节里。所以别急着改结构做创新，先把这三层验收走完，把每个参数的来由搞清楚，后面你想动哪一块，心里都有底。