【温度回归预测】能量谷算法优化多头注意力机制的卷积神经网络结合长短记忆神经网络温度预测EVO-CNN-BiLSTM-Multihead-Attention【含Matlab源码 3975
能量谷算法优化多头注意力机制的卷积神经网络结合长短记忆神经网络温度预测EVO-CNN-BiLSTM-Multihead-Attention完整的代码,方可运行;可提供运行操作视频!适合小白!
✅博主简介:热爱科研的Matlab仿真开发者,修心和技术同步精进,Matlab项目合作可私信。
🍎个人主页:海神之光
🏆代码获取方式:
海神之光Matlab王者学习之路—代码获取方式
⛳️座右铭:行百里者,半于九十。
更多Matlab仿真内容点击👇
Matlab图像处理(进阶版)
路径规划(Matlab)
神经网络预测与分类(Matlab)
优化求解(Matlab)
语音处理(Matlab)
信号处理(Matlab)
车间调度(Matlab)
⛄一、能量谷算法优化多头注意力机制的卷积神经网络结合长短记忆神经网络温度预测简介
能量谷算法是一种用于优化多头注意力机制的方法,它结合了卷积神经网络(CNN)和长短记忆神经网络(LSTM)。该算法主要用于温度预测任务。
在传统的多头注意力机制中,通过计算注意力权重来对输入序列进行加权求和,以获得对应的上下文表示。然而,传统的注意力机制在处理长序列时可能会面临计算复杂度高和信息丢失的问题。
能量谷算法通过引入卷积神经网络和长短记忆神经网络,解决了传统注意力机制的问题。具体原理如下:
(1)卷积神经网络(CNN):CNN用于提取输入序列的局部特征。它通过卷积层和池化层来捕捉输入序列中的空间相关性。这样可以减少输入序列的长度,从而降低计算复杂度。
(2)长短记忆神经网络(LSTM):LSTM用于捕捉输入序列的时间相关性。它通过门控单元来选择性地记忆和遗忘输入序列中的信息。这样可以保留重要的时间依赖关系,避免信息丢失。
(3)多头注意力机制:在CNN和LSTM的基础上,能量谷算法引入了多头注意力机制。它通过将输入序列分成多个子序列,并为每个子序列分配一个注意力头。每个注意力头都可以独立地学习和关注不同的特征子空间。最后,通过将多个注意力头的输出进行加权求和,得到最终的上下文表示。
⛄二、部分源代码
%% 清除内存、清除屏幕
clc
clear
%% 导入特征数据、当天的风速数据
data = xlsread(‘特征序列及实际值.xlsx’);
Features = data(1:18,:); %% 特征输入 :75天,每天24小时,每小时一个采样点,共计7524=1800小时,18个特征数据
Wind_data = data(19,:); %% 实际值输出:75天,每天24小时,每小时一个采样点,共计7524=1800小时的风速数据
%% 数据平铺为4-D
LP_Features = double(reshape(Features,18,24,1,75)); %% 特征数据格式为1824175,分别对应18特征24小时,75天
LP_WindData = double(reshape(Wind_data,24,1,1,75)); %% 实际数据格式为241175 ,分别对应24小时,75天
%% 格式转换为cell
NumDays = 75; %% 数据总天数为 75天
for i=1:NumDays
FeaturesData{1,i} = LP_Features(:,:,1,i);
end
for i=1:NumDays
RealData{1,i} = LP_WindData(:,:,1,i);
end
%% 划分数据
XTrain = FeaturesData(:,1:73); %% 训练集输入为 1-73 天的特征
YTrain = RealData(:,2:74); %% 训练集输出为 2-74天 的实际值
XTest = cell2mat(FeaturesData(: , 74)); %% 测试集输入第 74 天的特征
Ytest = cell2mat(RealData(: , 75)); %% 测试集输出为第 75天 的实际值
SearchAgents_no=20;%种群数量
Max_iter=30;%迭代次数
lb=0.001;%学习率下限
ub=0.5;%学习率上限
dim=1;
fobj=@(x)fun(x,XTrain,YTrain,XTest,Ytest);
[Leader_score,Leader_pos,Convergence_curve,predict_value]= (SearchAgents_no,Max_iter,lb,ub,dim,fobj);
[RMSE1,YPredicted]=fun(0.1,XTrain,YTrain,XTest,Ytest);
% load(‘data.mat’)
[RMSE1_SSA,YPredicted_SSA]=fun(Leader_pos,XTrain,YTrain,XTest,Ytest);
[mae,mse,rmse,mape,error,errorPercent]=calc_error(Ytest,YPredicted);
figure
plot(Convergence_curve,‘r-’)
xlabel(‘迭代次数’)
ylabel(‘RMSE’)
%% 绘图
figure
plot(Ytest,‘m-*’,‘LineWidth’,2);
hold on
plot(YPredicted,‘g-s’,‘LineWidth’,2);
plot(YPredicted_SSA,‘c-o’,‘LineWidth’,2);
legend(‘真实值’,‘CNN-LSTM-Attention预测值’,‘SSA-CNN-LSTM-Attention预测值’);
xlabel(‘预测样本’);
ylabel(‘预测结果’);
title(‘测试集预测结果对比’)
grid
%% 测试集结果
figure;
plotregression(Ytest,YPredicted_SSA,[‘回归图’]);
figure;
ploterrhist(Ytest-YPredicted_SSA,[‘误差直方图’]);
⛄三、运行结果
⛄四、matlab版本及参考文献
1 matlab版本
2014a
2 参考文献
[1]王晨阳,段倩倩.基于遗传算法优化卷积长短记忆混合神经网络模型的光伏发电功率预测[J].物理学报. 2019
3 备注
简介此部分摘自互联网,仅供参考,若侵权,联系删除
🍅 仿真咨询
1 各类智能优化算法改进及应用
生产调度、经济调度、装配线调度、充电优化、车间调度、发车优化、水库调度、三维装箱、物流选址、货位优化、公交排班优化、充电桩布局优化、车间布局优化、集装箱船配载优化、水泵组合优化、解医疗资源分配优化、设施布局优化、可视域基站和无人机选址优化
2 机器学习和深度学习方面
卷积神经网络(CNN)、LSTM、支持向量机(SVM)、最小二乘支持向量机(LSSVM)、极限学习机(ELM)、核极限学习机(KELM)、BP、RBF、宽度学习、DBN、RF、RBF、DELM、XGBOOST、TCN实现风电预测、光伏预测、电池寿命预测、辐射源识别、交通流预测、负荷预测、股价预测、PM2.5浓度预测、电池健康状态预测、水体光学参数反演、NLOS信号识别、地铁停车精准预测、变压器故障诊断
3 图像处理方面
图像识别、图像分割、图像检测、图像隐藏、图像配准、图像拼接、图像融合、图像增强、图像压缩感知
4 路径规划方面
旅行商问题(TSP)、车辆路径问题(VRP、MVRP、CVRP、VRPTW等)、无人机三维路径规划、无人机协同、无人机编队、机器人路径规划、栅格地图路径规划、多式联运运输问题、车辆协同无人机路径规划、天线线性阵列分布优化、车间布局优化
5 无人机应用方面
无人机路径规划、无人机控制、无人机编队、无人机协同、无人机任务分配
6 无线传感器定位及布局方面
传感器部署优化、通信协议优化、路由优化、目标定位优化、Dv-Hop定位优化、Leach协议优化、WSN覆盖优化、组播优化、RSSI定位优化
7 信号处理方面
信号识别、信号加密、信号去噪、信号增强、雷达信号处理、信号水印嵌入提取、肌电信号、脑电信号、信号配时优化
8 电力系统方面
微电网优化、无功优化、配电网重构、储能配置
9 元胞自动机方面
交通流 人群疏散 病毒扩散 晶体生长
10 雷达方面
卡尔曼滤波跟踪、航迹关联、航迹融合
更多推荐
所有评论(0)