【MATLAB第34期】 MATLAB 2023年棕熊算法 BOA-LSTM时间序列预测模型 #含预测未来功能,以及优化结构层数及单双向类型 研究工作量丰富且新颖

简介: 【MATLAB第34期】 MATLAB 2023年棕熊算法 BOA-LSTM时间序列预测模型 #含预测未来功能,以及优化结构层数及单双向类型 研究工作量丰富且新颖

【MATLAB第34期】 MATLAB 2023年棕熊算法 BOA-LSTM时间序列预测模型 #含预测未来功能,以及优化结构层数及单双向类型 研究工作量丰富且新颖


一、代码优势


1.使用2023年棕熊算法BOA优化LSTM超参数(学习率,隐藏层节点,正则化系数,训练次数,结构层数,单双向结构类型)

2.目标函数考虑训练集和测试集,更加合理;运行结果稳定,可直接调用结果,且调用结果非常方便。

3.滑动窗口方法处理单列时间序列数据,考虑历史数据的影响。

4.代码一体化,一键运行;注释丰富,评价指标丰富,逻辑清晰,适合小白学习。

5.代码绘图丰富(除基础绘图以外,还包括训练LOSS图、超参数迭代图)、美观

6.命令行窗口可见运行过程的结果.

7.参数可在代码中设置,方便调试;优化超参数可以根据需求更改 。

8.含预测未来功能。

9.含结构层数,以及LSTM单双向选择功能

举例:

1.绘图美观,且包含对超参数随迭代次数变化的研究。

2.代码方便计算和调用,只需要在fun函数后面加超参数组合,就能得到结果。

[fitness1,net1,res1,info1] =  fun([0.005,50,0.005,50,1,2]); % 基础参数取值(学习率,隐藏层节点,正则化系数,训练次数,1层结构,单向LSTM)

3.含预测未来功能

二、后期研究计划

后续将在博文中更新更丰富、功能更完整的作品,敬请期待。

1.多层LSTM结构优化,含单向LSTM/GRU和双向Bilstm混合模型**(已解决多层优化。混合优化暂未解决)**

2.更多超参数优化,含结构层数量、隐含层节点数、最小批处理数量、时间步数等**(已解决多层结构层优化,其余参数好实现,根据具体数据情况自行添加)**

3.含预测未来功能**(已解决)**

4.更多新的算法以及在基础上改进算法对比**(已解决,见35期)**。

5.loss内置函数修改

6.多场景应用(分类、回归、多输入多输出等等)


三、代码展示

%%  1.清空环境变量
warning off             % 关闭报警信息
close all               % 关闭开启的图窗
clear                   % 清空变量
clc                     % 清空命令行
%%  2.导入数据(时间序列的单列数据)
result = xlsread('数据集.xlsx');
%%  3.数据分析
num_samples = length(result);  % 样本个数 
kim = 15;                      % 延时步长(kim个历史数据作为自变量)
zim =  1;                      % 跨zim个时间点进行预测
%%  4.划分数据集
for i = 1: num_samples - kim - zim + 1
    res(i, :) = [reshape(result(i: i + kim - 1), 1, kim), result(i + kim + zim - 1)];
end
%%  5.数据集分析
outdim = 1;                                  % 最后一列为输出
num_size = 0.7;                              % 训练集占数据集比例
num_train_s = round(num_size * num_samples); % 训练集样本个数
f_ = size(res, 2) - outdim;                  % 输入特征维度
%%  6.划分训练集和测试集
P_train = res(1: num_train_s, 1: f_)';
T_train = res(1: num_train_s, f_ + 1: end)';
M = size(P_train, 2);
P_test = res(num_train_s + 1: end, 1: f_)';
T_test = res(num_train_s + 1: end, f_ + 1: end)';
N = size(P_test, 2);
%%  7.数据归一化
[P_train, ps_input] = mapminmax(P_train, 0, 1);
P_test = mapminmax('apply', P_test, ps_input);
[t_train, ps_output] = mapminmax(T_train, 0, 1);
t_test = mapminmax('apply', T_test, ps_output);
%%  8.数据平铺
%   将数据平铺成1维数据只是一种处理方式
%   也可以平铺成2维数据,以及3维数据,需要修改对应模型结构
%   但是应该始终和输入层数据结构保持一致
P_train =  double(reshape(P_train, f_, 1, 1, M));
P_test  =  double(reshape(P_test , f_, 1, 1, N));
t_train = t_train';
t_test  = t_test' ;
%%  9.数据格式转换
for i = 1 : M
    p_train{i, 1} = P_train(:, :, 1, i);
end
for i = 1 : N
    p_test{i, 1}  = P_test( :, :, 1, i);
end
%%  10.优化算法参数设置
SearchAgents_no = 5;                   % 种群数量
Max_iteration = 5;                    % 最大迭代次数
lb = [1e-3, 10, 1e-4,20,1,1];                 % 参数取值下界(学习率,隐藏层节点,正则化系数,训练次数,隐含层层数,LSTM单双向结构)
ub = [1e-2, 80, 1e-3,100,4,2];                 % 参数取值上界(学习率,隐藏层节点,正则化系数,训练次数,隐含层层数,LSTM单双向结构)
dim = 6;% 优化参数个数
fobj=@(x)fun(x);  %适应度函数
%%  11.优化算法初始化
[Best_sol,Best_X,Convergence,BestNet,pos_curve]=BOA(SearchAgents_no,dim,Max_iteration,lb,ub,fobj)
%% 12.优化前LSTM运行结果
[fitness1,net1,res1,info1] =  fun([0.005,50,0.005,50]); % 基础参数取值(学习率,隐藏层节点,正则化系数,训练次数)
predict_value1=res1.predict_value1;
predict_value2=res1.predict_value2;
true_value1=res1.true_value1;
true_value2=res1.true_value2;
i=1;
disp('-------------------------------------------------------------')
disp('LSTM结果:')
rmse1=sqrt(mean((true_value1(i,:)-predict_value1(i,:)).^2));
disp(['LSTM训练集根均方差(RMSE):',num2str(rmse1)])
mae1=mean(abs(true_value1(i,:)-predict_value1(i,:)));
disp(['LSTM训练集平均绝对误差(MAE):',num2str(mae1)])
mape1=mean(abs((true_value1(i,:)-predict_value1(i,:))./true_value1(i,:)));
disp(['LSTM训练集平均相对百分误差(MAPE):',num2str(mape1*100),'%'])
r2_1=R2(true_value1(i,:),predict_value1(i,:));
disp(['LSTM训练集R-square决定系数(R2):',num2str(r2_1)])
rmse2=sqrt(mean((true_value2(i,:)-predict_value2(i,:)).^2));
disp(['LSTM测试集根均方差(RMSE):',num2str(rmse2)])
mae2=mean(abs(true_value2(i,:)-predict_value2(i,:)));
disp(['LSTM测试集平均绝对误差(MAE):',num2str(mae2)])
mape2=mean(abs((true_value2(i,:)-predict_value2(i,:))./true_value2(i,:)));
disp(['LSTM测试集平均相对百分误差(MAPE):',num2str(mape2*100),'%'])
r2_2=R2(true_value2(i,:),predict_value2(i,:));
disp(['LSTM测试集R-square决定系数(R2):',num2str(r2_2)])
%% 13. 绘图
%% 14.优化后BOA-LSTM运行结果  
[fitness2,net2,res2,info2] =  fun(Best_X); % 基础参数取值(学习率,隐藏层节点,正则化系数,训练次数)
i=1;
disp('-------------------------------------------------------------')
disp('BOA-LSTM结果:')
disp('BOA-LSTM优化得到的最优参数为:')
disp(['BOA-LSTM优化得到的隐藏单元数目为:',num2str(round(Best_X(2)))]);
disp(['BOA-LSTM优化得到的最大训练周期为:',num2str(round(Best_X(4)))]);
disp(['BOA-LSTM优化得到的InitialLearnRate为:',num2str((Best_X(1)))]);
disp(['BOA-LSTM优化得到的L2Regularization为:',num2str((Best_X(3)))]);
op_rmse1=sqrt(mean((op_true_value1(i,:)-op_predict_value1(i,:)).^2));
disp(['BOA-LSTM训练集根均方差(RMSE):',num2str(op_rmse1)])
op_mae1=mean(abs(op_true_value1(i,:)-op_predict_value1(i,:)));
disp(['BOA-LSTM训练集平均绝对误差(MAE):',num2str(op_mae1)])
op_mape1=mean(abs((op_true_value1(i,:)-op_predict_value1(i,:))./op_true_value1(i,:)));
disp(['BOA-LSTM训练集平均相对百分误差(MAPE):',num2str(op_mape1*100),'%'])
op_r2_1=R2(op_true_value1(i,:),op_predict_value1(i,:));
disp(['BOA-LSTM训练集R-square决定系数(R2):',num2str(op_r2_1)])
op_rmse2=sqrt(mean((op_true_value2(i,:)-op_predict_value2(i,:)).^2));
disp(['BOA-LSTM测试集根均方差(RMSE):',num2str(op_rmse2)])
op_mae2=mean(abs(op_true_value2(i,:)-op_predict_value2(i,:)));
disp(['BOA-LSTM测试集平均绝对误差(MAE):',num2str(op_mae2)])
op_mape2=mean(abs((op_true_value2(i,:)-op_predict_value2(i,:))./op_true_value2(i,:)));
disp(['BOA-LSTM测试集平均相对百分误差(MAPE):',num2str(op_mape2*100),'%'])
op_r2_2=R2(op_true_value2(i,:),op_predict_value2(i,:));
disp(['BOA-LSTM测试集R-square决定系数(R2):',num2str(op_r2_2)])
%% 15.BOA-LSTM绘图
%% 16.预测未来及绘图
通过data最后kim即15个数据作为输入,得到预测结果即第16个值 。  输入2-16,得到第17个值。
本次建议预测未来只取kim个值,即对应滑动窗口尺寸。  
其次,每次需要误差修正,不然用预测值再作为输入,会误差累计 。

未考虑结构层数和单双向优化结果

四、未考虑结构层数和单双向优化运行结果


LSTM结果:

LSTM训练集根均方差(RMSE):0.023407

LSTM训练集平均绝对误差(MAE):0.01781

LSTM训练集平均相对百分误差(MAPE):2.9834%

LSTM训练集R-square决定系数(R2):0.95768

LSTM测试集根均方差(RMSE):0.024046

LSTM测试集平均绝对误差(MAE):0.01902

LSTM测试集平均相对百分误差(MAPE):3.2605%

LSTM测试集R-square决定系数(R2):0.78619


BOA-LSTM结果:

BOA-LSTM优化得到的最优参数为:

BOA-LSTM优化得到的隐藏单元数目为:30

BOA-LSTM优化得到的最大训练周期为:59

BOA-LSTM优化得到的InitialLearnRate为:0.0060983

BOA-LSTM优化得到的L2Regularization为:0.00035327

BOA-LSTM训练集根均方差(RMSE):0.012984

BOA-LSTM训练集平均绝对误差(MAE):0.009747

BOA-LSTM训练集平均相对百分误差(MAPE):1.6228%

BOA-LSTM训练集R-square决定系数(R2):0.98596

BOA-LSTM测试集根均方差(RMSE):0.015044

BOA-LSTM测试集平均绝对误差(MAE):0.011762

BOA-LSTM测试集平均相对百分误差(MAPE):1.9885%

BOA-LSTM测试集R-square决定系数(R2):0.9183



五、考虑结构层数和单双向优化运行结果


LSTM结果:

LSTM训练集根均方差(RMSE):0.029838

LSTM训练集平均绝对误差(MAE):0.022429

LSTM训练集平均相对百分误差(MAPE):3.8673%

LSTM训练集R-square决定系数(R2):0.95401

LSTM测试集根均方差(RMSE):0.02557

LSTM测试集平均绝对误差(MAE):0.020291

LSTM测试集平均相对百分误差(MAPE):3.413%

LSTM测试集R-square决定系数(R2):0.77222


BOA-LSTM结果:

BOA-LSTM优化得到的最优参数为:

BOA-LSTM优化得到的隐藏单元数目为:19

BOA-LSTM优化得到的最大训练周期为:64

BOA-LSTM优化得到的InitialLearnRate为:0.0051093

BOA-LSTM优化得到的L2Regularization为:0.00057301

BOA-LSTM训练集根均方差(RMSE):0.019895

BOA-LSTM训练集平均绝对误差(MAE):0.015285

BOA-LSTM训练集平均相对百分误差(MAPE):2.597%

BOA-LSTM训练集R-square决定系数(R2):0.97333

BOA-LSTM测试集根均方差(RMSE):0.01963

BOA-LSTM测试集平均绝对误差(MAE):0.015393

BOA-LSTM测试集平均相对百分误差(MAPE):2.6051%

BOA-LSTM测试集R-square决定系数(R2):0.85712


六、分析


根据加入结构层数和单双向结构类型超参数优化时,在同等种群(5)迭代次数(5)的情况下,结果却相对差一些,且运行速度也慢一些。其实也很好理解,对于多优化参数相当于把简单的问题复杂化,不一定结构层数越多越好,反而会把本简单的网络结构复杂化,其次,待优化超参数多了,在种群数量和迭代次数不变的情况下,所对应的样本丰富性来说,反而下降了 。所以,在增加待优化超参数数量时,理应提高种群数量和迭代次数,但是对于简单的问题简单的数据,本末倒置。


七、代码获取


后台私信回复“34期”即可获取下载链接。

相关文章
|
4天前
|
算法 数据可视化 安全
基于DWA优化算法的机器人路径规划matlab仿真
本项目基于DWA优化算法实现机器人路径规划的MATLAB仿真,适用于动态环境下的自主导航。使用MATLAB2022A版本运行,展示路径规划和预测结果。核心代码通过散点图和轨迹图可视化路径点及预测路径。DWA算法通过定义速度空间、采样候选动作并评估其优劣(目标方向性、障碍物距离、速度一致性),实时调整机器人运动参数,确保安全避障并接近目标。
|
15天前
|
机器学习/深度学习 数据采集 算法
基于GA遗传优化的CNN-GRU-SAM网络时间序列回归预测算法matlab仿真
本项目基于MATLAB2022a实现时间序列预测,采用CNN-GRU-SAM网络结构。卷积层提取局部特征,GRU层处理长期依赖,自注意力机制捕捉全局特征。完整代码含中文注释和操作视频,运行效果无水印展示。算法通过数据归一化、种群初始化、适应度计算、个体更新等步骤优化网络参数,最终输出预测结果。适用于金融市场、气象预报等领域。
基于GA遗传优化的CNN-GRU-SAM网络时间序列回归预测算法matlab仿真
|
17天前
|
机器学习/深度学习 人工智能 算法
机器学习算法的优化与改进:提升模型性能的策略与方法
机器学习算法的优化与改进:提升模型性能的策略与方法
123 13
机器学习算法的优化与改进:提升模型性能的策略与方法
|
13天前
|
移动开发 算法 计算机视觉
基于分块贝叶斯非局部均值优化(OBNLM)的图像去噪算法matlab仿真
本项目基于分块贝叶斯非局部均值优化(OBNLM)算法实现图像去噪,使用MATLAB2022A进行仿真。通过调整块大小和窗口大小等参数,研究其对去噪效果的影响。OBNLM结合了经典NLM算法与贝叶斯统计理论,利用块匹配和概率模型优化相似块的加权融合,提高去噪效率和保真度。实验展示了不同参数设置下的去噪结果,验证了算法的有效性。
|
11天前
|
算法 决策智能
基于SA模拟退火优化算法的TSP问题求解matlab仿真,并对比ACO蚁群优化算法
本项目基于MATLAB2022A,使用模拟退火(SA)和蚁群优化(ACO)算法求解旅行商问题(TSP),对比两者的仿真时间、收敛曲线及最短路径长度。SA源于金属退火过程,允许暂时接受较差解以跳出局部最优;ACO模仿蚂蚁信息素机制,通过正反馈发现最优路径。结果显示SA全局探索能力强,ACO在路径优化类问题中表现优异。
|
20天前
|
机器学习/深度学习 算法
基于遗传优化的双BP神经网络金融序列预测算法matlab仿真
本项目基于遗传优化的双BP神经网络实现金融序列预测,使用MATLAB2022A进行仿真。算法通过两个初始学习率不同的BP神经网络(e1, e2)协同工作,结合遗传算法优化,提高预测精度。实验展示了三个算法的误差对比结果,验证了该方法的有效性。
|
23天前
|
机器学习/深度学习 数据采集 算法
基于PSO粒子群优化的CNN-GRU-SAM网络时间序列回归预测算法matlab仿真
本项目展示了基于PSO优化的CNN-GRU-SAM网络在时间序列预测中的应用。算法通过卷积层、GRU层、自注意力机制层提取特征,结合粒子群优化提升预测准确性。完整程序运行效果无水印,提供Matlab2022a版本代码,含详细中文注释和操作视频。适用于金融市场、气象预报等领域,有效处理非线性数据,提高预测稳定性和效率。
|
24天前
|
机器学习/深度学习 算法 索引
单目标问题的烟花优化算法求解matlab仿真,对比PSO和GA
本项目使用FW烟花优化算法求解单目标问题,并在MATLAB2022A中实现仿真,对比PSO和GA的性能。核心代码展示了适应度计算、火花生成及位置约束等关键步骤。最终通过收敛曲线对比三种算法的优化效果。烟花优化算法模拟烟花爆炸过程,探索搜索空间,寻找全局最优解,适用于复杂非线性问题。PSO和GA则分别适合快速收敛和大解空间的问题。参数调整和算法特性分析显示了各自的优势与局限。
|
17天前
|
传感器 算法
基于GA遗传优化的WSN网络最优节点部署算法matlab仿真
本项目基于遗传算法(GA)优化无线传感器网络(WSN)的节点部署,旨在通过最少的节点数量实现最大覆盖。使用MATLAB2022A进行仿真,展示了不同初始节点数量(15、25、40)下的优化结果。核心程序实现了最佳解获取、节点部署绘制及适应度变化曲线展示。遗传算法通过初始化、选择、交叉和变异步骤,逐步优化节点位置配置,最终达到最优覆盖率。
|
17天前
|
算法
基于RRT优化算法的机械臂路径规划和避障matlab仿真
本课题基于RRT优化算法实现机械臂路径规划与避障。通过MATLAB2022a进行仿真,先利用RRT算法计算避障路径,再将路径平滑处理,并转换为机械臂的关节角度序列,确保机械臂在复杂环境中无碰撞移动。系统原理包括随机生成树结构探索空间、直线扩展与障碍物检测等步骤,最终实现高效路径规划。

热门文章

最新文章