简介这个压缩包提供了一套基于CNN-GRU-Attention混合深度模型实现的电气预测完整代码适合电气工程、数据科学及深度学习初学者与研究者使用。项目围绕电气时间序列数据如负荷、电压、电流等的处理与预测展开涵盖了从数据预处理、模型构建、训练评估到结果可视化的标准流程。资源包共8个文件主要包括2个Python程序模型构建与训练脚本、2个CSV数据文件输入样本数据以及4个说明性TXT文档代码说明、依赖包版本等压缩包大小仅1.24MB轻量易部署。目前已有109人学习下载。通过这份代码读者可以完整掌握CNN-GRU-Attention的组合建模思路CNN负责提取局部特征GRU捕捉序列长期依赖关系注意力机制则强化关键时间步的影响。项目中还附有依赖包版本说明与运行提示能帮助快速复现实验并迁移到电力需求预测、设备故障预警等类似场景。1. 一张负荷曲线引发的“组合拳”CNN-GRU-Attention 到底解决什么问题做电气预测的人手机里大概都存着几张深夜发来的曲线图配电变压器一天 96 个点的负荷数据一到早晚高峰就剧烈抖动隔着屏幕都能感到现场工程师的无奈。单纯用 LSTM 或 GRU 去拟合这种序列经常是“前面拟合得好好的一进突变段就崩”反过来只上卷积网络又会把时序的先后顺序抹成一团。这个名为“051cnn-gru-attention预测 Python程序”的项目核心就是用三种结构各管一段CNN 抓局部波动形态GRU 接力捕捉前后依赖Attention 在输出前把历史步里真正关键的时刻挑出来加权。组合起来预测电力负荷、设备温度这类带明显周期又掺杂突变的序列效果往往比单独用其中任何一种都稳。这套方案适合两类人。一类是刚把 Python 环境装好、想找一份能直接跑的预测代码入门的初学者跟着把数据换成自己的 CSV 就能出结果另一类是已经用 LSTM 做过预测、正被“预测值滞后一拍”折磨的从业者想看看注意力机制能不能把尖峰拉回来。下面从原理到复现把每个环节讲透包括那些不跑一遍绝对发现不了的坑。2. 拆开模型看门道CNN、GRU、Attention 各司其职为什么非要搭在一起用2.1 CNN 先上场用卷积把曲线里的“拐点”抠出来先想一个问题一段 96 点的日负荷曲线模型第一眼最该看什么答案是局部形态——早高峰从 7 点开始爬升、午休回落、晚高峰再次拉起这些“形状”在连续几个时间步里是有固定模式的。GRU 虽然能记东西但它是按时间步逐个读入的对“连续 3 个点急速上升”这种局部特征不敏感卷积不一样一个大小为 3 或 5 的卷积核滑过序列时天然就在做“相邻几个点之间的关系”提取。CNN 在这一步扮演的角色相当于先把原始序列里最有判别力的短片段筛出来再交给 GRU 去编排顺序。常见做法是用一维卷积nn.Conv1d对序列做特征提取。卷积核数量一般取 32 到 128 之间核大小取 3 或 5不要取太大因为电气负荷序列的局部模式通常在 3 到 5 个点内就能体现取 7 以上反而会模糊掉突变的边界。步长保持默认的 1padding 设为“same”保证卷积前后长度一致这样后面接 GRU 时不用重新对齐时间步。2.2 GRU 接力门控机制记住“昨天这时候在干嘛”GRU 是 LSTM 的轻量改良版只有更新门和重置门两个门参数更少、训练更快在序列长度几百的量级上精度几乎不输 LSTM。在这个组合里它的输入是 CNN 提取出的特征序列输出是每个时间步的隐藏状态。这些隐藏状态承载的不只是“当前长什么样”还包括“相对于之前几步当前处于什么阶段”——比如电网负荷的“上周同一时刻”效应就是靠 GRU 的隐藏状态传递记住的。选 GRU 而不是 LSTM 还有一个现实原因训练更稳。LSTM 有三个门在数据量不大、又没做精细调参的情况下更容易出现梯度问题GRU 结构简单对学习率不那么敏感对“数据拿来就跑”的工程场景更友好。隐藏层大小建议取 32 到 64 之间层数一层就够。电气预测任务输入特征维度通常不高负荷值、温度、湿度、星期几等两层 GRU 带来的收益很小却会让参数量翻倍、训练时间明显变长。2.3 Attention 最后拍板凭什么预测值要参考第 37 步而不是第 12 步GRU 的最后一个隐藏状态确实编码了整个序列的信息但当序列长度超过 30 步时早先的信息在传递中会有损耗。Attention 机制不依赖这种“挤压式”的记忆它让模型在输出前回看每一个时间步的隐藏状态算出一个权重权重大的时刻被重点参考权重小的时刻基本忽略。这解决了一个非常实际的问题——预测 18 点的负荷时模型应该重点参考 17 点和昨天 18 点的状态而不是平均看待过去 24 小时的每一个点。一个容易误解的点是这里的 Attention 不是 transformer 里的自注意力self-attention而是加性注意力或乘性注意力专门对 GRU 隐藏状态序列做加权求和。它不需要位置编码也不用做多头结构非常轻。计算过程不复杂先把每个时间步的隐藏状态通过一个线性层映射成一个标量分数再用 softmax 归一化成权重最后把隐藏状态按权重加权求和得到一个上下文向量拼上最后一拍的隐藏状态一起送进全连接层输出预测值。2.4 组合模型的参数规模与训练成本预估模块典型参数输出形状变化Conv1d 输入in_channels特征数, out_channels64, kernel3(batch, 特征数, 时间步) → (batch, 64, 时间步)GRU 输入hidden_size64, num_layers1(时间步, batch, 64)Attention64→1 线性层(时间步, batch, 64) → (batch, 64)全连接输出6464 → 1(batch, 128) → (batch, 1)参数量粗略估算在几十万这个量级单张普通显卡或者 CPU 都能在几分钟内完成一轮训练。这正是这个组合的工程优势比纯 Transformer 轻得多但比纯 LSTM 能抓住更多局部特征和关键历史时刻。3. 从零跑通预测程序数据预处理、模型定义与训练参数怎么设3.1 数据和环境准备先看清输入输出再动手动手前建议先建一个干净的 Python 3.8 以上环境用 venv 或 conda 都行避免把系统 Python 搞乱。需要安装的核心库就四个torch、numpy、pandas、matplotlib。如果机器没有 N 卡直接装 CPU 版 PyTorch这个规模的模型 CPU 训练完全能接受装完顺手验证一下python -c import torch; print(torch.__version__)最快能发现环境问题。数据格式上多数预测程序的原始输入是 CSV 文件至少包含两列时间戳和预测目标值。常见做法是额外拼上几个手工特征——小时数、星期几、是否节假日这些对电力负荷预测特别管用。模型输入通常是一个滑动窗口用过去seq_len个时刻的特征预测未来pred_len个时刻的值。seq_len 常见取 24 或 48对应 24 小时或两天pred_len 取 1 或 24 都可以看你要做单步预测还是多步预测。下面是一个标准的滑窗数据集构造代码输入的原始数据假设是 pandas DataFrameimport numpy as np import pandas as pd def create_sequences(data, seq_len24, pred_len1): 把长序列切成 (输入窗口, 预测目标) 的样本对 data: 二维 numpy 数组, 每行是一个时刻的特征 X, y [], [] for i in range(len(data) - seq_len - pred_len 1): # 取过去 seq_len 个时刻做输入 X.append(data[i : i seq_len]) # 取未来 pred_len 个时刻的某一列做预测目标 y.append(data[i seq_len : i seq_len pred_len, 0]) return np.array(X), np.array(y) # 示例: 加载 CSV, 取特征列 df pd.read_csv(load_data.csv) # 假设特征列: load, hour, is_weekend, temp features df[[load, hour, is_weekend, temp]].values X, y create_sequences(features, seq_len24, pred_len1)这里有几个参数需要较真。seq_len24对应一天 24 个点如果数据是 15 分钟一个点一天就是 96 个点seq_len就该取 96。pred_len1表示只预测下一刻预测未来 24 个点可以用pred_len24但训练难度会明显上升建议先单步跑通再加预测步长。预测目标取第 0 列load因为建模目标就是负荷值其余列对模型来说都是辅助特征。数据切分完毕之后有一个非常关键、又特别容易被忽略的步骤归一化。推荐用sklearn.preprocessing.MinMaxScaler把每一列特征压到 0 到 1 区间。注意要用训练集的数据去拟合 scaler而不是对全量数据做归一化否则测试集的信息在训练时就已经“泄漏”给模型了。from sklearn.preprocessing import MinMaxScaler # train_df 是训练集部分, 不要混入测试集 scaler MinMaxScaler(feature_range(0, 1)) # 用训练集拟合 scaler train_scaled scaler.fit_transform(train_df[[load, hour, is_weekend, temp]]) # 用同一个 scaler 转换测试集 test_scaled scaler.transform(test_df[[load, hour, is_weekend, temp]])fit_transform只用在训练集上测试集只能用transform。如果先对全量数据做fit_transform测试集里未来时刻的信息会参与归一化参数的估计模型在训练时就“偷看”了未来数据的统计特征测试结果会虚高部署后真实表现立刻下滑。3.2 模型定义与训练参数核心实现逐行说明这个组合模型的 PyTorch 实现不复杂核心是把三个模块串起来。下面这段代码是一个可以直接跑通的最小实现import torch import torch.nn as nn import torch.nn.functional as F class CNNGRUAttention(nn.Module): def __init__(self, n_features, seq_len, hidden_size64): super().__init__() # CNN 层: 1D卷积提取局部特征, kernel3 看相邻3个点 self.conv1 nn.Conv1d(n_features, 64, kernel_size3, padding1) self.conv2 nn.Conv1d(64, 64, kernel_size3, padding1) # GRU: 把 CNN 特征按时间步读入 self.gru nn.GRU(64, hidden_size, batch_firstTrue) # Attention 打分层: 把每个时间步的隐状态映射成标量 self.attn nn.Linear(hidden_size, 1) # 输出层: 拼接注意力加权向量和最后时刻隐状态 self.fc nn.Linear(hidden_size * 2, 1) def forward(self, x): # x: (batch, seq_len, n_features) # Conv1d 要求 (batch, channels, length), 所以要转置 x x.permute(0, 2, 1) x F.relu(self.conv1(x)) x F.relu(self.conv2(x)) # 转回 (batch, seq_len, channels) 给 GRU x x.permute(0, 2, 1) gru_out, _ self.gru(x) # gru_out: (batch, seq_len, hidden_size) # Attention: 打分 - softmax - 加权求和 attn_scores self.attn(gru_out).squeeze(-1) # (batch, seq_len) attn_weights F.softmax(attn_scores, dim1) context torch.bmm(attn_weights.unsqueeze(1), gru_out).squeeze(1) # (batch, hidden_size) # 拼接最后时刻的隐状态 last_hidden gru_out[:, -1, :] # (batch, hidden_size) combined torch.cat([context, last_hidden], dim1) return self.fc(combined)重点讲三个设计点。第一permute的原因Conv1d默认输入是(batch, channels, length)而序列数据通常是(batch, length, features)所以必须先交换后两个维度。第二两层卷积之间加 ReLU 激活否则卷积的线性组合还是线性。第三Attention 的bmm操作是批量矩阵乘法attn_weights的形状是(batch, seq_len)先unsqueeze(1)变成(batch, 1, seq_len)才能与(batch, seq_len, hidden_size)做乘法结果是(batch, 1, hidden_size)squeeze(1)后正好是加权求和向量。拼接时选gru_out[:, -1, :]作为补充因为最后一个时间步的隐状态本身就带着最新的信息和 Attention 抓重点历史形成了互补。训练参数方面batch size 常用 256学习率 0.001 配 Adam 优化器是多数人的起点。如果用 GPU 训练可以在模型对象创建后立刻执行.cuda()或把模型放进device但要注意输入数据也必须在同一个设备上常见的报错就是模型在 GPU 上而数据还在 CPU。Loss 函数用nn.MSELoss()这是回归任务的标准选择对异常值比较敏感——如果数据里有明显的坏数据比如负的负荷值建议先清洗掉不然后期 loss 会一直下不来。3.3 训练循环与验证跑通最小 demo 的三个关键动作训练循环的骨架是固定的但有几个动作决定结果能不能用。第一每次迭代要把优化器的梯度清零否则 PyTorch 会默认积累梯度。第二model.train()和model.eval()必须切换虽然这个模型没有 dropout 和 batch norm 影响不是致命的但从一开始养成习惯可以避免以后换更复杂模型时踩坑。第三验证阶段必须用torch.no_grad()包裹否则验证过程会构建计算图、白白消耗显存甚至把验证数据当成训练样本来更新梯度。def train_model(model, train_loader, val_loader, epochs50, lr0.001): optimizer torch.optim.Adam(model.parameters(), lrlr) criterion nn.MSELoss() for epoch in range(epochs): model.train() train_loss 0.0 for x_batch, y_batch in train_loader: optimizer.zero_grad() pred model(x_batch) loss criterion(pred, y_batch) loss.backward() optimizer.step() train_loss loss.item() * len(x_batch) val_loss evaluate(model, val_loader, criterion) print(fEpoch {epoch1}: train_loss{train_loss/len(train_loader.dataset):.6f}, fval_loss{val_loss:.6f}) def evaluate(model, val_loader, criterion): model.eval() total_loss 0.0 with torch.no_grad(): for x_batch, y_batch in val_loader: pred model(x_batch) loss criterion(pred, y_batch) total_loss loss.item() * len(x_batch) return total_loss / len(val_loader.dataset)如果跑完 50 轮训练 loss 还在 0.01 以上不用急着调模型结构优先检查三个地方。第一个是归一化是否生效——拿原始数据直接喂给网络数值范围大了几个数量级梯度自然会爆。第二个是学习率是否过大——把lr从 0.001 降到 0.0003 试试通常会有惊喜。第三个是seq_len和预测目标是否对齐——y_batch的形状可能是(batch, pred_len)而不是(batch, 1)这时候需要把模型输出形状和标签形状统一常见做法是在计算 loss 前加一行pred pred.view(-1, pred_len)。模型结构本身的调参空间主要在两个方向CNN 的卷积核数量决定局部特征的丰富度GRU 的hidden_size决定时序记忆的容量。数据量大的可以把这两个参数加倍从 64 加到 128感受一下训练时间和精度的权衡数据量只有几千条保持 64 就好参数太多容易过拟合。4. 训练避坑清单Loss 不降、数据泄漏、多步预测失真这 5 个坑我全踩过4.1 归一化泄漏测试集提前“偷看”了未来信息现象训练时验证集 loss 一路降到接近 0模型看起来完美但换一批新数据预测误差立刻涨了一倍还不止。原因对全量数据一起做MinMaxScaler.fit_transform测试集的均值和最大值混进了归一化参数里相当于模型在训练阶段就知道了未来数据的大致分布。解决严格用训练集fit出 scaler再对测试集只做transform。这个坑最隐蔽因为训练曲线完全正常甚至比正常模型还要漂亮但它纯属“作弊”出来的幻觉。4.2 形状不匹配Conv1d 的通道维度总报错现象一跑模型就报Expected 3D input (batch, channels, length)或者mat1 and mat2 shapes cannot be multiplied。原因Conv1d期望输入是三维且中间的通道维必须等于in_channels。数据原始形状是(batch, seq_len, features)直接喂给卷积层后它把seq_len当成了通道数维度全错位了。解决在进入Conv1d前先x.permute(0, 2, 1)把特征维换到通道位置用完卷积再permute回来给 GRU。遇到维度报错第一步先打印每一层前后的形状判断是哪一步的维度悄悄变了。4.3 预测值严重滞后像把昨天的值抄了一遍现象预测曲线和真实曲线几乎平行但整体向右平移了一个时间步专业术语叫“滞后效应”。原因序列本身就存在强烈的自相关性当前时刻的值和上一时刻的值高度相近模型学着学着发现“直接把上一个点抄过来”的 loss 最低于是偷懒了。解决给输入数据增加外部特征温度、湿度、星期几迫使模型去学习真正的影响因素而不只是时序自回归。第二个办法是加大seq_len让窗口从 24 扩到 48让模型有更多上下文去判断“这个上升是开始还是快结束了”。第三个是在 loss 上叠加一个一阶差分损失惩罚预测值在相邻时刻的跳变不合理。4.4 多步预测误差随步长急剧膨胀现象pred_len1没问题改成预测未来 24 个点之后越往后预测越不准最后变成一条水平线。原因多步预测有两种策略——递归预测把上一步的预测值喂回输入和直接预测一次性输出多个值。递归预测的误差会逐级累积而且模型在训练时用的是真实值做输入推理时用的是自己的预测值这个分布不一致导致误差越滚越大。解决改用直接预测让模型的输出层输出pred_len个值训练时用对应的未来一段真实序列做标签。代价是输出层参数变多但避免了误差累积。更好的做法是引入课程学习或者计划采样scheduled sampling训练中也有很多讲究不建议入门时就碰先把直接预测跑通。4.5 训练很快收敛但测试集崩溃典型的过拟合信号现象训练 loss 掉到 0.0001测试 loss 却在某个 epoch 之后开始回升。原因模型参数量相对数据量来说太大了把训练集的噪声都背了下来。电气预测的数据通常只有几个月到一两年几千个样本很常见。解决按优先级做三件事。第一在 GRU 后面加nn.Dropout(p0.3)注意只加在训练时。第二把训练 epoch 数减半并配合早停patience10验证集 loss 连续 10 轮不降就停。第三缩小hidden_size和卷积核数量从根上减少参数容量。在调这些参数的时候顺便说一句用验证集反复调参存在“对验证集过拟合”的风险数据量允许的话最好切出一段末期的时间段做独立的测试集只在中间的验证集上调参。4.6 数据顺序被打乱时间序列切分切出了“未来”切片千万别 shuffle 整个数据集现象训练 loss 低验证 loss 也不算差但模型上线第二天就开始“发疯”预测值明显离谱。原因时间序列必须按时间顺序切分。如果像普通分类任务那样对整个数据集做随机打乱再把前 80% 当训练、后 20% 当测试那么测试集里混着比训练集更早的数据模型在训练时已经见过了测试样本的信息。解决切分数据集时只用位置索引切片先切后洗。即便在训练集内部要用 shuffle也必须在切片之后按样本顺序做 shuffle 打包而不能把整个数据集洗乱再切。5. 把模型用出工程味可复现设置、K 折验证与导出部署的细节5.1 先定随机种子再谈结果好坏模型训练跑通以后第一件事不是调参而是做可复现性设置。PyTorch 的训练结果受三个随机源影响模型权重初始化、数据加载器的打乱顺序、GPU 上的某些算子。如果不固定同一套代码跑两次结果线性都不完全相同你很难判断改动参数到底是真有效还是随机波动。一份能锁死的代码需要同时设置三个随机源def set_seed(seed42): import random random.seed(seed) np.random.seed(seed) torch.manual_seed(seed) torch.cuda.manual_seed_all(seed) # 部分算子会改用确定性算法, 速度略慢但结果可复现 torch.backends.cudnn.deterministic True torch.backends.cudnn.benchmark Falsecudnn.deterministic保证卷积算子选择确定性的实现代价是可能慢一点benchmarkFalse禁用运行时自动寻找最优算法的逻辑。这两行在调试阶段必须开启等完全定稿后再考虑关掉提速。还有一个细节容易被忽略torch.utils.data.DataLoader里的shuffleTrue依赖全局随机状态固定了上面的种子之后它也一并确定了。5.2 时间序列的 K 折验证滚动切分而不是随机切分常规 K 折交叉验证在序列预测里不适用——随机把数据切成 5 份每份里都散落着不同时间段的数据训练集中某些片段比验证集更靠后等于又泄漏了。适合序列预测的是滚动前向验证第一次用第 1 到第 100 天训练、第 101 到 110 天测试第二次用第 1 到 110 天训练、第 111 到 120 天测试依此类推。这样每一折的测试数据都严格晚于训练数据反映的是真实部署时的情形。如果数据量不够做多折至少保证测试集是一段连续的、时间上晚于训练集的数据而不是随意抽出来的散点。5.3 导出与落地从训练脚本到可调用组件模型训练完成只是第一步实际使用时要把它变成一个可以接收新数据、返回预测结果的函数。常见做法是保存模型参数然后在需要预测时加载# 训练结束后保存 torch.save(model.state_dict(), cnn_gru_attention.pt) # 预测时加载 model CNNGRUAttention(n_features4, seq_len24, hidden_size64) model.load_state_dict(torch.load(cnn_gru_attention.pt)) model.eval() def predict_next(model, recent_window, scaler): recent_window: 最近 seq_len 个时刻的原始特征 (二维 numpy) 返回: 反归一化后的预测值 x scaler.transform(recent_window) # 用训练时保存的 scaler x_tensor torch.FloatTensor(x).unsqueeze(0) # 加 batch 维 with torch.no_grad(): pred_scaled model(x_tensor).item() # 注意: 反归一化需要把预测值还原到原始量纲 # 由于 scaler 是 4 列的, 构造一个虚拟行再取第 0 列 dummy np.zeros((1, 4)) dummy[0, 0] pred_scaled return scaler.inverse_transform(dummy)[0, 0]load_state_dict要求模型的类定义结构和保存时的完全一致改过hidden_size或n_features都会导致加载失败。一个非常有用的习惯是保存模型时把seq_len、hidden_size、n_features这些超参数同时存成一份 JSON下次加载时先读参数再建模型避免“模型文件还在但结构定义忘了”的局面。把加载操作包成一个类或者函数是为了让模型只暴露predict接口内部用torch.no_grad()保证推理阶段不构建计算图节省内存。5.4 后处理与评估别忘了把结果还原成真实数值模型输出的是归一化后的值如果不还原预测的“负荷”没有任何物理意义。评估指标同样要在真实量纲上计算常用的有 RMSE均方根误差和 MAPE平均绝对百分比误差。MAPE 对接近 0 的真实值特别敏感如果负荷序列有接近零的时刻MAPE 会被个别点拉得特别大这时候改用 MAE 或 RMSE 更稳妥。绘制预测 vs 真实的曲线时也建议把两条曲线都还原到原始量纲肉眼看偏移量比看归一化数字直观得多。我在做了几个预测项目之后养成的习惯是每次训练结束立刻把当次的随机种子、超参数、训练/验证 loss 曲线、测试集指标一起归档成一个文本文件。这个动作不值钱但回看时很有用——否则三个月后回头面对一份跑出好结果的代码你会完全想不起当时的参数是怎么设的那种白折腾的感觉最磨人。这套 CNN-GRU-Attention 组合方向经过多个电气场景验证值得你投入时间把它吃透从单步预测做起跑通后再逐步加大步长、丰富特征每一步都有可见的收益。希望帮到你。本文还有配套的精品资源点击获取