[推荐]人工神经网络在电力短期负荷预测中的应用

TNC

短期负荷预测通常是指24小时的日负荷预测和168小时的周负荷预测，本文主要预测的是日平均负荷，对于短期负荷预测，有两个基本要求：
（1）它必须精确。例如，准确度要求预测相对误差不超过3%；
（2）短期负荷预测的目的是预测即时预测，而不是像中期负荷预测那样，预测负荷的发展趋势。负荷是即时变化的，因此，要求用以进行短期负荷预测的模型能够随时适应负荷的变化，所以理想的情况应是进行在线预测。所以时间要越短越好。
日负荷预测一般是要考虑天气因素影响的，实际上天气因素和负荷的关系，是复杂的非线性关系，精确的考虑是非常困难的。为了解决这个问题可以将人工神经网络引入电力负荷预测领域。人工神经网络，通过多个神经元的相互连接，使其输入和输出构成一个复杂的非线性处理系统，用于日负荷预测，同样利用其可以记忆复杂的非线性输入输出映射关系的特性，而这种特性正是一些传统的负荷预测方法难以实现的。
人工神经网络简介
神经网络在目前已有几十种不同的模型。在人们提出的几十种神经网络模型中，人们较多用的是Hopfield网络、BP网络、Kohonen网络和ART(自适应共振理论)网络。其中BP网络是反向传播(Back Propagation)网络。它是一种多层前向网络，采用最小均方差学习方式。这是一种最广泛应用的网络。
BP 算法是用于前馈多层网络的学习算法，前馈多层网络含有输入层、输出层以及处于输入输出层之间的中间层。中间层有单层或多层，由于它们和外界没有直接的联系，故也称为隐层。在隐层中的神经元也称隐层单元。隐层虽然和外界不连接．但是，它们的状态则影响输入输出之间的关系。这也是说，改变隐层的权系数，可以改变整个多层神经网络的性能。
3 多层前向BP网络也存在着问题：
①BP算法的学习速度很慢，其原因主要有：
a 由于BP算法本质上为梯度下降法，而它所要优化的目标函数又非常复杂，因此，必然会出现“锯齿形现象”，这使得BP算法低效；
b 存在麻痹现象，由于优化的目标函数很复杂，它必然会在神经元输出接近0或1的情况下，出现一些平坦区，在这些区域内，权值误差改变很小，使训练过程几乎停顿；
c 为了使网络执行BP算法，不能用传统的一维搜索法求每次迭代的步长，而必须把步长的更新规则预先赋予网络，这种方法将引起算法低效。
②网络训练失败的可能性较大，其原因有：
a 从数学角度看，BP算法为一种局部搜索的优化方法，但它要解决的问题为求解复杂非线性函数的全局极值，因此，算法很有可能陷入局部极值，使训练失败；
b 网络的逼近、推广能力同学习样本的典型性密切相关，而从问题中选取典型样本实例组成训练集是一个很困难的问题。
③难以解决应用问题的实例规模和网络规模间的矛盾。这涉及到网络容量的可能性与可行性的关系问题，即学习复杂性问题；
④网络结构的选择尚无一种统一而完整的理论指导，一般只能由经验选定。为此，有人称神经网络的结构选择为一种艺术。而网络的结构直接影响网络的逼近能力及推广性质。因此，应用中如何选择合适的网络结构是一个重要的问题；
⑤新加入的样本要影响已学习成功的网络，而且刻画每个输入样本的特征的数目也必须相同；
⑥ 网络的预测能力（也称泛化能力、推广能力）与训练能力（也称逼近能力、学习能力）的矛盾。一般情况下，训练能力差时，预测能力也差，并且一定程度上，随训练能力地提高，预测能力也提高。但这种趋势有一个极限，当达到此极限时，随训练能力的提高，预测能力反而下降，即出现所谓“过拟合”现象。此时，网络学习了过多的样本细节，而不能反映样本内含的规律。
4 算法的改进
为了克服BP的这些缺陷，本人对算法做了一些改进
确定连接权修正值的计算过程，实际上是优化计算的梯度下降法。当能量公式对应的误差曲面为窄长型时，这种算法在谷的两壁跳来跳去，影响了网络的收敛速度，对算法最普通的改进方法是增加附加动量项。利用附加动量项可以起到平滑梯度方向的剧烈变化，增加算法的稳定性。在具体计算中，学习率η越大，学习速度会越快，但过大时会引起震荡效应；而动量因子α取得过大可能导致发散，过小则收敛速度过慢。
并为了解决BP易于陷于极小值现象，用人工遗传算法来优化BP网络的初始权值。遗传算法是根据生物进化思想而启发得出的一种全局优化算法，在本质上是一种不依赖具体问题的直接搜索方法，它仅需给出目标函数的描述，从一组随机产生的称为“种群(population)”的初始解开始，从全局空间出发搜索问题的最优解。由于遗传算法善于全局搜索，且能以较大的概率找到全局最优解，故用它来完成前期搜索能较好的克服BP算法的局部极小的缺陷。将GA和BP结合起来，形成GA-BP混合训练算法，以GA优化BP网络的初始权值和阈值，再由BP算法按负梯度方向修正网络权值及阈值，进行网络训练。这种方法避免了BP网络易陷入局部极小问题，达到优化网络目的，更能精确的实现城市用电量预测。
实例讲解
以某市某区某变电站2004年1-3月份日用电量以及影响用电量的温度因素作为训练和测试样本对BP网络进行验证。
网络的输入数据有7个，即预测日的平均温度，预测日前两天的日用电量与平均温度，及预测日前一周的日用电量与平均温度，故输入层节点数m=7；输出层输出数据个数为1，即输出预测日的日用电量；隐含层节点数初定为2m+1=15；采用实数编码，易求得染色体长度s=55。交叉概率取0.3、选择概率取 0.8、变异概率0.05，初始种群个数N=30。
以2004年1月1日到3月21日80组数据为训练样本，经过60次遗传迭代后，求得其最优个体，将最优个体解码为BP网络的初始权值和阈值，以此为基础进行网络训练，训练过程中使用的各参数值设置如下：显示间隔次数disp_fqre=25，最大循环次数max_epoch=15000，目标误差err_goal=0.001，学习速率lr=0.001。
以2004年3月21日到2004年3月31日10组数据作为测试样本，输入以上训练好的网络，预测该10天的用电量；为证明GA-BP算法的优越，同时以相同的数据进行标准BP算法和加动量项法进行用电量预测。
从程序运行的结果可以看出，加动量项法和GA-BP方法明显优于标准BP预测方法；从训练过程显示的图中也可以看出，加动量项法的训练速度明显比BP的快多了，但加动量项法与BP算法一样，泛化能力较差，而GA-BP不仅解决了这个问题，而且可以对样本数的要求也不高，并减少了隐含层的个数，从而简化了网络结构。由此可见，用GA-BP方法预测用电量比较令人满意。但GA-BP方法的训练时间随着迭代次数的增加而延长，不利于短期负荷预测的及时性，所以本文将加动量项法和GA-BP方法结合起来，笔者通过实验证实了这样的算法既加快了训练进程又解决了BP的过拟合问题，提高了BP网络的泛化能力。

huabo

其实BP算法最大的问题是到最后……

frogfish

原帖由 huabo 于 2007-6-26 11:40 发表

                               
登录/注册后可看大图

其实BP算法最大的问题是到最后……

能否把话说全？