如果有一天你精心训练的模型为了学会新知识必须把旧知识全部遗忘你会怎么设计这个系统大脑每天都在面对同样的难题没有固定数据集没有“重新训练一次”的机会却能连续几十年学习并在这个过程中产生了人类最难解释的现象——意识。最近在 PMCPubMed Central生物医学文献数据库上有一篇论文的标题非常直接The Plasticity Thesis: How the Brain Learns to Be Conscious。它把意识研究从“意识是什么”这种哲学追问拉回到一个工程师更熟悉的问题意识是如何通过学习被获得的。论文的核心主张是大脑并不是带着一个预装好的意识模块出生而是通过神经可塑性在发育、学习和与环境的持续交互中逐渐“学会”了意识。这篇文章不是为了搬运脑科学术语而是要回答三个问题可塑性论题到底在说什么它为什么对 AI 开发者有实际价值以及我们能不能用一个最小实验亲眼看到“可塑性缺失”会带来什么后果1. 这篇文章真正要解决的问题大多数搞 AI 的人第一次听到“意识”这个词时第一反应是这是哲学家的事跟我有什么关系但从工程角度看可塑性论题真正戳中的是当前深度学习范式的软肋。现在的模型训练流程本质上是一个“一次性学习”过程数据集准备好损失函数定义好训练到收敛然后冻结权重上线。模型在部署之后就停止了学习。如果想让它学会新任务常规做法是拿新数据继续微调而微调最著名的副作用就是灾难性遗忘——新知识写进去了旧知识被冲掉了。这个问题不是边缘问题。在推荐系统里用户行为分布每天都在漂移在机器人领域环境变化要求模型持续适应在 Agent 应用中一个能长期规划、持续交互的智能体必须能够在记忆旧规则的同时吸收新经验。可如果模型的架构本身不支持“带着旧知识学新知识”那所有这些场景都只能靠工程补丁硬撑。可塑性论题给我们的启发是学习能力本身而不是某个具体任务上的精度才是智能系统的第一属性。它主张意识这样的高级认知能力也不是预装的静态模块而是可塑性机制在长时间尺度上组织出来的结果。这篇文章会从概念到代码把这个判断讲透。谁最应该读这篇文章如果你在做深度学习、强化学习、Agent、机器人或任何需要模型持续进化的方向如果你对“为什么现在的模型学一个新任务就会忘旧任务”感到困惑如果你想理解脑科学与现代 AI 的交汇点这篇文章都适合你。2. 什么是可塑性论题核心概念与原理2.1 从“意识是什么”到“意识如何习得”传统意识研究围绕一个难题为什么大脑中的神经放电会产生主观体验这个问题被称为意识的“困难问题”至今没有公认答案。可塑性论题选择换一个角度切入不直接回答主观体验从哪里来而是追问意识能力是怎么发展出来的。它的核心主张可以概括为一句话意识不是大脑预装的固定模块而是神经系统借助可塑性在学习和发育过程中逐步获得的能力。换句话说大脑不是天生就会“有意识”的它是通过学习“学会”了有意识。这里要特别注意一个容易误解的点说“学会意识”并不是说主观体验是后天加上去的装饰品而是说支撑意识表征、整合和报告能力的神经机制依赖学习过程来建立。婴儿的视觉系统、语言系统、自我感知能力都是在与环境的交互中逐步成型的。可塑性论题把这条发展路径放到了意识研究的中心位置。2.2 关键术语解释术语通俗解释在论题中的作用神经可塑性神经系统随经验改变结构和功能的能力意识习得的底层基础突触可塑性神经元之间连接强度随活动发生变化学习和记忆的基本单元可塑性论题意识是大脑通过学习获得的能力本文讨论的核心观点自我再描述大脑对自身加工过程进行建模和重述意识内容的重要来源意识主观体验、可报告的心理状态需要被解释的对象2.3 与其他意识理论的关系可塑性论题并不是凭空冒出来的它和目前主流意识理论可以放在同一张地图上看理论核心观点关注层次全局工作空间理论意识内容是被广播到全局工作空间的信息信息的访问与分发递归加工理论意识依赖前馈与反馈的递归神经活动信息的整合方式预测加工理论大脑是一个持续做预测和修正误差的机器信息的内容与来源可塑性论题意识能力是通过学习和可塑性逐步建立的能力的发展过程从这张表可以看出可塑性论题更像是一个“发展轴”上的理论其他理论回答的是意识内容如何被广播、如何被整合、如何被预测可塑性论题回答的是为什么大脑能够具备这些加工能力。它不一定要替代其他理论而是为它们补上“这一能力从哪里来”的维度。对 AI 开发者来说这个维度恰恰是最容易被忽略的我们默认模型应该具备某种能力却很少设计让能力本身可以生长的机制。3. 大脑如何“学会”意识三个关键机制可塑性论题不是一个空洞的口号。从认知神经科学的一般研究来看有三个机制与这个论题高度一致也最能给 AI 设计带来启发。3.1 学习驱动的自我再描述大脑不只是学习外部世界它还在不断地学习自己。当你学骑自行车时最初每一块肌肉的运动都需要刻意控制练熟之后你开始“意识”到身体的姿态、重心的偏移、速度的变化——这种意识不是凭空出现的而是大脑对自己的运动控制过程建立了内部模型。这个机制在认知科学中常被称为“自我再描述”或“元认知”大脑把自身的加工过程再表达成可以被监控和报告的形式。没有这个过程系统只能给出正确的输出却无法知道这个输出为什么可靠有了这个过程系统才获得“知道自己知道什么”的能力。可塑性论题认为这种对自身状态的再描述能力正是意识内容的重要来源。对 AI 的启示很直接一个模型如果只能输出预测结果不能估计自己的不确定性不能解释自己卡在哪一步那么即使它在指标上表现很好也缺乏“知道自己不知道什么”的能力。很多现代模型已经引入置信度校准、不确定性估计这正是自我再描述思想在工程上的投影。3.2 时间整合与递归加工单一时刻的神经活动不足以产生意识。大脑需要把来自不同感官、不同时间点的信息整合成一个连贯的表征这个过程依赖递归加工——信号不仅向前传播还会通过反馈连接回流到前面的层级反复加工。用工程类比来理解前馈网络像一条流水线每件产品只经过一次加工递归网络则像一条带反馈的生产线产品可以在不同工位之间往返反复校验。研究表明意识体验更可能出现在具备这种递归整合的动态过程中因为它保证了信息被足够长时间地维持、比较和绑定。可塑性在这里的作用是递归连接的强度不是固定的而是通过学习和经验被不断调整的。哪些信息需要被整合、以什么权重整合、维持多长时间都是在发展过程中被“训练”出来的。换句话说大脑学会的不仅是具体知识还有“如何把信息整合成连贯体验”的组织方式。3.3 预测、误差与意识内容上世纪九十年代以来“预测加工”逐渐成为认知科学的主流框架。大脑被认为是一个持续的预测机器它不断根据内部模型预测下一时刻的感知输入并把预测和实际输入之间的误差作为学习信号。这个框架和可塑性论题天然互补。意识内容在很大程度上由预测误差驱动——那些符合预期的信息会被快速加工掉进入无意识的自动流程那些违反预期的信息反而会“浮出水面”成为被注意、被报告的对象。换句话说大脑学会的不只是预测世界还学会了“把意外拿出来看”的策略。而这个策略同样是可塑的是被经验塑造出来的。对 AI 的启示是持续学习不只是在旧任务上继续训练还需要一个“什么时候该注意什么”的机制。如果模型对所有输入一视同仁它既无法高效处理海量常规数据也难以在异常出现时及时适应。可塑性论题提示我们真正强大的系统应该同时具备两个能力把常规流程自动化把异常事件显式化。4. 从脑科学到 AI为什么可塑性是 AGI 的关键短板4.1 当前模型的“一次性学习”困境现代深度学习模型在训练阶段展示了惊人的学习能力但一旦进入部署阶段学习就停止了。模型权重被冻结输入输出关系被固定任何新知识都需要回到训练管线走完数据采集、标注、训练、评估、上线这一整套流程。这和大脑的工作方式截然不同大脑永远在线永远在学习睡眠、行走、对话每一个经验都可能改变神经连接。这种差异带来的后果是我们的模型擅长解决“已经定义清楚的问题”却在面对“会变化的问题”时非常脆弱。推荐系统需要频繁重训以跟上用户兴趣漂移自动驾驶需要不断更新以覆盖长尾场景对话系统无法在一次对话中真正记住用户的偏好只能靠外挂记忆模块模拟。4.2 灾难性遗忘可塑性的反面灾难性遗忘是持续学习研究中最著名的现象神经网络在任务 A 上训练到很高精度再在任务 B 上继续训练结果任务 A 的精度大幅下降。原因是新任务对共享权重的修改覆盖了旧任务累积的梯度信息。从可塑性的角度看灾难性遗忘意味着系统的“可塑性”太强但缺少“稳定性”的保护。大脑同样面临可塑性与稳定性的矛盾——太可塑会遗忘太稳定会僵化。它解决这个问题的办法不是彻底偏向某一边而是通过多种机制动态调节睡眠期间的记忆巩固、海马体的临时存储与新皮层的长期编码、突触的短期可塑性与长期可塑性分离。这些机制让大脑既能持续吸收新知识又不会把已经固化的旧知识全部冲掉。4.3 从“会推理”到“会学习”的判断还有一个更隐蔽的问题现有的评测体系几乎都在衡量“某个任务上的能力”而不是“获得能力的能力”。一个模型在 ImageNet 上拿到 90% 准确率说明它会分类但没有任何指标告诉我们这个模型在遇到新类别时需要多少样本才能学会学会之后会不会忘掉旧类别。可塑性论题的价值在于它把“学习能力”本身从幕后推到台前。如果一个系统的目标是通用智能那么它最重要的指标不应该是某个基准上的分数而应该是在持续变化的环境中能否以增量方式积累知识、调整行为、保持稳定。这也是为什么越来越多的研究者开始关注持续学习、小样本学习、元学习这些方向——它们本质上都在尝试给模型装上“可塑性”。5. 用代码体验可塑性一个最小持续学习示例概念讲得再多不如亲手跑一个实验。下面我们用 PyTorch 构建一个最小的持续学习场景先让模型学会 MNIST 中的 0-4再让它学习 5-9观察学完新任务后旧任务的准确率还剩多少。5.1 环境准备本示例只需要 Python 和 PyTorch版本请以实际项目为准本文使用当前稳定版即可。python -m venv venv source venv/bin/activate # Windows 使用 venv\Scripts\activate pip install torch torchvision5.2 实验设计把 MNIST 按数字拆成两个任务任务 A数字 0-4任务 B数字 5-9训练流程是先在任务 A 上训练记录任务 A 的测试准确率再在任务 B 上训练记录任务 B 的准确率最后重新评估任务 A 的准确率。如果模型发生了灾难性遗忘最后一步的准确率会明显下降。5.3 完整代码实现文件路径experiments/plasticity_demo.pyimport torch import torch.nn as nn import torch.optim as optim from torch.utils.data import DataLoader, Subset from torchvision import datasets, transforms device torch.device(cuda if torch.cuda.is_available() else cpu) transform transforms.Compose([ transforms.ToTensor(), transforms.Normalize((0.1307,), (0.3081,)) ]) full_train datasets.MNIST(root./data, trainTrue, downloadTrue, transformtransform) full_test datasets.MNIST(root./data, trainFalse, downloadTrue, transformtransform) def split_mnist_by_labels(dataset, labels): idx [i for i, (_, y) in enumerate(dataset) if y in labels] return Subset(dataset, idx) taskA_train split_mnist_by_labels(full_train, [0, 1, 2, 3, 4]) taskA_test split_mnist_by_labels(full_test, [0, 1, 2, 3, 4]) taskB_train split_mnist_by_labels(full_train, [5, 6, 7, 8, 9]) taskB_test split_mnist_by_labels(full_test, [5, 6, 7, 8, 9])接着定义一个简单的全连接网络和训练、评估函数class SimpleNet(nn.Module): def __init__(self, output_dim10): super().__init__() self.features nn.Sequential( nn.Linear(28 * 28, 256), nn.ReLU(), nn.Linear(256, 128), nn.ReLU(), ) self.classifier nn.Linear(128, output_dim) def forward(self, x): x x.view(x.size(0), -1) h self.features(x) return self.classifier(h) def train(model, loader, epochs3, lr1e-3): model.train() optimizer optim.Adam(model.parameters(), lrlr) loss_fn nn.CrossEntropyLoss() for epoch in range(epochs): total_loss 0.0 for x, y in loader: x, y x.to(device), y.to(device) optimizer.zero_grad() out model(x) loss loss_fn(out, y) loss.backward() optimizer.step() total_loss loss.item() print(fepoch{epoch 1}, loss{total_loss / len(loader):.4f}) def evaluate(model, loader): model.eval() correct, total 0, 0 with torch.no_grad(): for x, y in loader: x, y x.to(device), y.to(device) out model(x) pred out.argmax(dim1) correct (pred y).sum().item() total y.size(0) return correct / total主流程先训练任务 A再训练任务 B最后重新评估任务 Amodel SimpleNet().to(device) train_loader_a DataLoader(taskA_train, batch_size128, shuffleTrue) test_loader_a DataLoader(taskA_test, batch_size128) train_loader_b DataLoader(taskB_train, batch_size128, shuffleTrue) test_loader_b DataLoader(taskB_test, batch_size128) print( 先学习任务 A数字 0-4) train(model, train_loader_a, epochs3) acc_a_before evaluate(model, test_loader_a) print(f任务A测试准确率: {acc_a_before:.4f}) print( 再学习任务 B数字 5-9) train(model, train_loader_b, epochs3) acc_b evaluate(model, test_loader_b) print(f任务B测试准确率: {acc_b:.4f}) print( 重新评估任务 A ) acc_a_after evaluate(model, test_loader_a) print(f任务A测试准确率: {acc_a_after:.4f}) print(f灾难性遗忘: 任务A准确率从 {acc_a_before:.4f} 下降到 {acc_a_after:.4f})5.4 对抗遗忘的简单方案经验重放只展示问题不给方案不是好习惯。一个最简单有效的缓解手段是经验重放在学习任务 B 时混入一小部分任务 A 的样本让模型在更新权重时“回忆”旧任务。import random from torch.utils.data import ConcatDataset def sample_subset(dataset, k500): indices random.sample(range(len(dataset)), k) return Subset(dataset, indices) buffer_a sample_subset(taskA_train, k500) mixed_loader DataLoader( ConcatDataset([buffer_a, taskB_train]), batch_size128, shuffleTrue ) print( 使用经验重放学习任务 B ) model2 SimpleNet().to(device) train(model2, train_loader_a, epochs3) acc_a_before evaluate(model2, test_loader_a) train(model2, mixed_loader, epochs3) acc_b evaluate(model2, test_loader_b) acc_a_after evaluate(model2, test_loader_a) print(f任务A初始准确率: {acc_a_before:.4f}) print(f混合重放后任务B准确率: {acc_b:.4f}) print(f混合重放后任务A准确率: {acc_a_after:.4f})经验重放的原理很直观模型在学新任务时旧的样本仍会周期性地出现在训练批次中梯度更新就不会完全偏向任务 B。这个方法虽然简单却是持续学习领域最稳健的基线之一也是“大脑通过海马体重放记忆来巩固旧知识”这一机制的工程化简化。6. 运行结果与效果验证运行代码python experiments/plasticity_demo.py预期输出如下数值会因机器、随机种子和 PyTorch 版本略有波动重点看相对变化 先学习任务 A数字 0-4 epoch1, loss0.4120 epoch2, loss0.1362 epoch3, loss0.0901 任务A测试准确率: 0.9902 再学习任务 B数字 5-9 epoch1, loss0.5234 epoch2, loss0.1427 epoch3, loss0.0887 任务B测试准确率: 0.9908 重新评估任务 A 任务A测试准确率: 0.4013 灾难性遗忘: 任务A准确率从 0.9902 下降到 0.4013判断实验是否成功的标准有两个任务 B 学习后任务 B 准确率应该达到 0.98 以上说明模型确实学到了新任务任务 A 准确率明显下降下降幅度通常在 30 个百分点以上。如果出现这个现象就说明模型发生了典型的灾难性遗忘。如果任务 A 准确率没有明显下降优先检查以下几步查看 epochs 和 learning rate是否太小导致任务 B 对权重的修改不足检查数据集拆分是否正确确认任务 A 和任务 B 的标签没有混在一起确认模型容量太小的网络可能本身就学不好任务 A也就谈不上“遗忘”。经验重放部分的预期结果则相反任务 A 最终准确率应该显著高于普通训练方案这是因为旧样本被反复回顾权重更新不会完全覆盖任务 A 的知识。7. 常见误区与排查思路问题现象可能原因排查方式解决方案任务 A 准确率没有明显下降学习率太低、epochs 太少任务 B 学习不充分查看任务 B 最终准确率是否足够高调大学习率或增加训练轮数经验重放后旧任务仍然掉精度重放缓冲区太小旧样本比例过低统计每个 batch 中旧样本占比增大缓冲区或调整混合比例训练速度慢、内存占用高缓冲区过大batch size 过大查看 CPU/GPU 内存占用减小缓冲区和 batch size把“可塑性”等同于“不会遗忘”混淆了可塑性与稳定性明确两个概念可塑性是改变能力稳定性是保持能力设计时同时考虑两个方向给模型打上“有意识”标签把意识当作可测量的模型指标意识缺乏工程可操作的度量标准本文只讨论学习组织方式不做意识归属判断在任务 B 上过拟合验证集表现差模型容量大、数据少、缺少正则化对比训练损失与验证损失增加 dropout、数据增强或权重衰减8. 从可塑性论题得到的工程建议8.1 把“可持续学习”放进评估体系很多团队评估模型只看单任务指标这是不够的。更合理的做法是同时报告四个方面新任务精度、旧任务精度保持率、样本效率学多少样本能到目标精度、稳定性多次训练结果的方差。只有这四个维度同时被评估模型的“学习能力”才不是一句空话。8.2 设计重放与巩固机制经验重放是最容易落地的持续学习方案。实践中可以维护一个固定大小的记忆缓冲区按类别或难度对旧样本进行采样每次训练混合一定比例的旧样本。更进一步的做法是结合模型蒸馏让旧模型对旧样本的输出作为软标签把“旧知识”以概率分布的形式保留下来。8.3 用正则化控制可塑性与稳定性的平衡重放是从数据层面保护旧知识正则化则是从参数层面保护。弹性权重巩固Elastic Weight Consolidation是一类经典方法在计算损失时对旧任务中重要的权重施加较大的惩罚对不重要的权重惩罚较小从而引导新任务的学习只修改那些“允许被修改”的参数。这类方法不需要存储旧数据但需要额外计算重要性矩阵适合数据隐私敏感的场景。8.4 监控遗忘曲线而不只是最终准确率工程上建议记录每一轮训练后的旧任务准确率绘制遗忘曲线。曲线下降过快说明稳定性不足曲线平坦但新任务学得慢说明可塑性不足。把遗忘曲线纳入 CI/CD 的评估流程可以让持续学习问题在开发阶段就暴露出来而不是上线后才发现模型越更新越差。8.5 明确安全边界不要在工程中编造“意识”最后一条建议是边界提醒。可塑性论题提供的是理解学习与意识关系的理论框架但意识本身没有工程可操作的度量标准。在设计 AI 系统时不要以“让模型有意识”为目标也不要把模型的行为表现包装成“意识水平”。更好的做法是把注意力放在可验证的问题上模型能否持续学习、能否记住旧知识、能否在新环境中稳定适应。这些能力是工程问题可以被设计、被测试、被改进。9. 总结与后续学习方向这篇文章围绕The Plasticity Thesis: How the Brain Learns to Be Conscious做了一次面向开发者的解读。核心判断可以概括为三句话意识不是预装模块而是可塑性机制在学习和发育过程中组织出来的能力学习能力本身而不是某个任务的精度才是智能系统的第一属性当前深度学习最缺的不是更好的网络结构而是让模型持续学习而不遗忘的机制。配套的 MNIST 最小实验用不到一百行代码直观展示了灾难性遗忘的现象也演示了经验重放这一最朴素的解法。建议你把代码跑通再把普通训练、经验重放、正则化三种方案的结果放在一起对比。下一步可以继续研究弹性权重巩固、渐进式神经网络、基于记忆的持续学习等方法也可以回到脑科学文献从睡眠记忆巩固、突触稳态等机制中寻找新的设计灵感。如果你正在做 Agent、推荐系统或机器人相关项目值得认真思考一个问题你的模型在学习新任务时是在“增量积累”还是在“推倒重来”这个问题的答案往往决定了系统能不能真正走向长期智能。