核心内容摘要
智能客服系统产生式系统的效率优化实战：从架构设计到性能调优
基于LSTM神经网络的短期负荷预测 MATLAB程序 采用Adam优化器大幅提高预测精度 数据有120天的负荷包含5个影响因素最高温度最低温度平均温度降雨量湿度 训练时119天的数据作为训练集根据负荷的变化趋势和对应的影响因素完成预测模型的构建 测试时以一天的影响因素作为输入才用上述训练好的模型预测未来一天的负荷数值最近在捣鼓电力负荷预测的项目时发现LSTM这玩意儿对时间序列数据真挺能打的。
特别是加上Adam优化器之后预测误差直接打了个七折。
刚好手头有120天的电力负荷数据还带着五个天气相关的特征干脆整了个单步预测模型试试水。
先说说数据怎么折腾的。
五个天气特征最高温、最低温、平均温、降雨量、湿度和负荷数据放在一起拿Matlab的mapminmax函数做了归一化。
这里有个坑——天气数据和负荷数值的量纲差距太大不归一化的话模型压根学不动。
代码里是这么处理的% 数据归一化 [input_train_norm, input_settings] mapminmax(input_train); [target_train_norm, target_settings] mapminmax(target_train);归一化后的数据切成119天训练和1天测试。
这里注意时间序列不能像普通数据那样随机切分得保持时间连续性。
训练时用的滑动窗口策略比如用前三天的数据预测第四天% 创建时间序列训练数据 XTrain cell(size(trainData,
-3,
; YTrain cell(size(trainData,
-3,
; for i1:size(trainData,
-3 XTrain{i} trainData(i:i2, 1:
; % 前三天的特征 YTrain{i} trainData(i3,
; % 第四天的负荷 end模型结构这块试过好几版最后定下来的是双层LSTM带Dropout。
第一层LSTM的hidden units设为128第二层降到64。
Dropout率设
2既能防过拟合又不影响模型容量。
Matlab里搭建LSTM比Python麻烦些得用layerGraph来拼装layers [ sequenceInputLayer(
lstmLayer(128,OutputMode,sequence) dropoutLayer(
0.
lstmLayer(64,OutputMode,last) fullyConnectedLayer(
regressionLayer];Adam优化器的参数调优花了不少时间。
学习率从
01开始试发现
001时loss下降最稳。
训练时开MiniBatch能有效利用显存batch size设32刚好吃满显卡的显存。
迭代到第15轮左右loss基本不再降了这时候再强行训练反而可能过拟合。
基于LSTM神经网络的短期负荷预测 MATLAB程序 采用Adam优化器大幅提高预测精度 数据有120天的负荷包含5个影响因素最高温度最低温度平均温度降雨量湿度 训练时119天的数据作为训练集根据负荷的变化趋势和对应的影响因素完成预测模型的构建 测试时以一天的影响因素作为输入才用上述训练好的模型预测未来一天的负荷数值预测阶段有个小技巧用前三天真实数据预测第四天后把预测值回填到输入数据里继续预测后续时段。
虽然误差会累积但短期预测影响不大。
测试集的预测结果反归一化后和真实值对比平均绝对误差MAE能压到
3%左右% 测试数据预测 YPred predict(net, XTest); % 反归一化 predicted_load mapminmax(reverse, YPred, target_settings);实际跑下来发现温度特征里平均温度的影响权重最大湿度特征在雨天表现突出。
有意思的是模型自己学出了周末和工作日的负荷差异虽然原始数据里根本没给星期几这个特征。
这可能是因为天气数据与日期存在隐含关联LSTM自己捕捉到了这种时间模式。
最后说下部署时的
注意事项模型对输入数据的顺序敏感必须保证时间戳严格连续。
遇到缺失值建议用三次样条插值比直接填零靠谱得多。
另外建议定期用最新数据微调模型电力负荷的季节性变化还是挺明显的。