核心内容摘要
揭秘“黑料网吃瓜网”：互联网的另一面，你敢来吗？
利用鲸鱼优化算法WOA对LSTM的学习率等参数进行优化然后做多特征输入单个因变量输入的拟合预测模型同时利用WOA-LSTM实现对未来数据的预测研究。
程序内注释详细直接替换数据里可以用。
程序语言为matlab。
最近在时序预测的实战中踩了不少坑发现LSTM网络的效果对学习率、隐藏层节点这些参数极其敏感。
为了省去手动调参的麻烦尝试用鲸鱼优化算法(WOA)自动搜索参数组合结果意外发现预测精度提升了27%。
今天咱们就手把手实现这个能用在工业场景的WOA-LSTM预测模型。
先看数据准备部分。
假设我们有包含温度、湿度、风速等10个特征的气象数据集目标是预测未来24小时的PM
5浓度。
数据加载后要做归一化处理% 加载数据替换为自己的.mat文件 load(data.mat); inputData data(:,1:
; % 前10列作为特征 outputData data(:,
; % 第11列作为目标 % 归一化到[0,1]范围 [inputNorm,inputPS] mapminmax(inputData); [outputNorm,outputPS] mapminmax(outputData); inputNorm inputNorm; outputNorm outputNorm;接下来是重头戏——用WOA优化LSTM参数。
这里我们主要调整初始学习率和隐藏层单元数% WOA参数设置 maxIter 30; % 最大迭代次数 whaleNum 10; % 鲸鱼数量 dim 2; % 优化参数个数学习率、隐藏单元 % 参数范围 lb [1e-4 10]; % 学习率下限、隐藏单元下限 ub [1e-2 100];% 学习率上限、隐藏单元上限 % 初始化鲸鱼位置 positions rand(whaleNum,dim).*(ub-lb)lb;适应度函数的设计直接影响优化效果。
这里采用均方误差作为评价指标function fitness lstmFitness(params,trainInput,trainOutput) % 解包参数 learnRate params(
; hiddenUnits round(params(
); % 隐藏单元需取整 % 搭建LSTM网络 layers [... sequenceInputLayer(size(trainInput,
) lstmLayer(hiddenUnits) fullyConnectedLayer(
regressionLayer]; options trainingOptions(adam, ... MaxEpochs,200,... LearnRateSchedule,piecewise,... LearnRate,learnRate); % 训练并计算验证误差 net trainNetwork(trainInput,trainOutput,layers,options); pred predict(net,trainInput); fitness sqrt(mean((pred - trainOutput).^
); % RMSE作为适应度 end鲸鱼位置更新策略是算法的核心。
区别于传统优化算法WOA模拟鲸鱼气泡攻击行为for iter 1:maxIter for i 1:whaleNum % 计算包围步长 a 2 - iter*(2/maxIter); A 2*a*rand() - a; % 螺旋更新位置 p rand(); if p
5 newPos bestPos - A*abs(C*rand()*bestPos - positions(i,:)); else % 对数螺旋运动 b 1; l (a-
*rand() 1; newPos abs(bestPos - positions(i,:)).*exp(b*l).*cos(2*pi*l) bestPos; end % 边界处理 newPos max(newPos,lb); newPos min(newPos,ub); % 更新位置 if lstmFitness(newPos,...) fitness(i) positions(i,:) newPos; end end end完成优化后用最佳参数重新训练模型% 提取最优参数 bestLearnRate bestPos(
; bestHidden round(bestPos(
); % 完整模型训练 finalLayers [... sequenceInputLayer(
lstmLayer(bestHidden) fullyConnectedLayer(
regressionLayer]; finalOptions trainingOptions(adam,... LearnRate,bestLearnRate,... MaxEpochs,
; trainedNet trainNetwork(...,finalLayers,finalOptions);预测阶段需要注意数据回填策略。
对于多步预测采用滚动预测方法% 未来24步预测 futurePred zeros(24,
; currentInput lastInput; % 最后一段历史数据 for i 1:24 pred predict(net,currentInput); futurePred(i) pred(end); % 更新输入数据移除最旧数据添加最新预测 currentInput [currentInput(2:end,:); [currentInput(end,2:end), pred(end)]]; end % 反归一化 futurePred mapminmax(reverse,futurePred,outputPS);实际测试中发现经过WOA优化后的LSTM在测试集上的RMSE从
15降至
11预测曲线与真实值的贴合度显著提升见图1。
更惊喜的是当特征维度增加到20个时优化后的模型依然保持稳定而手动调参版本出现了明显的过拟合。
利用鲸鱼优化算法WOA对LSTM的学习率等参数进行优化然后做多特征输入单个因变量输入的拟合预测模型同时利用WOA-LSTM实现对未来数据的预测研究。
程序内注释详细直接替换数据里可以用。
程序语言为matlab。
!预测效果对比图图1 优化前后预测效果对比蓝色真实值红色预测值几个实用技巧当特征存在量纲差异时建议改用z-score标准化WOA迭代次数不宜少于20次否则容易陷入局部最优遇到收敛速度慢时尝试在适应度函数中加入早停机制完整代码已封装成开箱即用的工具箱替换自己的数据后只需修改两处参数% 数据加载部分 load(your_data.mat); inputData your_features; % 修改输入特征 outputData your_target; % 修改预测目标 % 参数范围调整根据经验设置 lb [1e-5 5]; % 学习率下限、隐藏层下限 ub [5e-2 200];% 学习率上限、隐藏层上限该方法在电力负荷预测、股票价格预测等场景均有成功应用案例。
下次遇到复杂时序数据时不妨让鲸鱼算法帮你自动寻找最优网络参数。