欢迎访问一起赢论文辅导网
本站动态
联系我们
 
 
 
 
 
 
 
 
 
 
 
QQ:3949358033
微信:paperwinner
工作时间:9:00-24:00
博士论文
当前位置:首页 > 博士论文
基于混沌鲶鱼效应的人工蜂群算法及应用
来源:一起赢论文网     日期:2015-04-23     浏览数:3403     【 字体:

 摘要:针对目前人工蜂群算法的早熟收敛、 陷入局部极值等问题, 提出一种基于混沌鲶鱼效应的改进人工蜂群算法. 首先, 采用随机性更高的混沌序列初始化蜂群以扩大其遍布范围;其次, 集成了鲶鱼效应和混沌理论提出了混沌鲶鱼蜂, 并引入了它与跌入局部极值的蜂群之间的有效竞争协调机制, 从而增进蜜蜂群体跳出局部最优解、 加速收敛的能力. 支持向量机的学习能力主要取决于其惩罚因子 C 和核函数参数的合理选择, 对其参数的优化可以提升其学习效果, 然而现行算法均存在一定局限性. 基于我们提出的改进人工蜂群算法, 对支持向量机的参数进行了优化. 最后, UCI(加州大学欧文分校)数据集和行为识别真实数据集上进行了测试, 验证基于改进人工蜂群算法的支持向量机具有更强的分类性能.

关键词: 人工蜂群算法; 混沌理论; 鲶鱼效应; 支持向量机; 行为识别

1 引言

人工蜂群算法(Articial Bee Colony algorithm ABC) Karaboga 1 2005 年提出的一种求解函数优化问题的进化算法, 也是继蚁群算法(Ant Colony OptimizationACO) 粒子群算法(Particle Swarm Optimization PSO)之后的又一新型群体智能随机优化算法. 该算法控制参数少、 实现简单、 计算简洁且在解决某些复杂问题上比ACO PSO 颇具优势, 目前被广泛应用于多种研究领域[2 3 然而, ACO 算法、 PSO 算法类似, 随着迭代搜索接近尾声, 蜂群个体的多样性及搜索速度会逐渐降低而种群整体出现早熟收敛、 陷入局部极值的可能性却显著提高. 鉴于混沌系统的类随机性、 规律性及互不相关性等特征, 文献[ 4 6]特将其作为一种提高各自算法性能的有效机制.本文一方面通过使用混沌映射方法代替原一般随机化方法初始化蜜蜂种群, 在不失随机性的同时加强了蜂群的多样性;另一方面, 则采用有别于文献[ 5 6]在ABC 算法中加入混沌局部搜索的做法, 将鲶鱼效应[7 ]施加到蜜蜂种群内, 并以混沌波动的方式衍生出一种新型的混沌鲶鱼蜂, 用来代替原侦查蜂负责开采新蜜源的任务, 且同原蜂群个体之间形成了有效的竞争、 协作机制, 以此提高整个种群的搜索速率及增强个体跳出局部最优解的能力.

支持向量机(Support Vector Machines SVM) 是由Vapnik 8 等人根据统计学习理论提出的一种非常适用于解决小样本、 非线性及高维模式识别问题的新型机器学习方法. 在利用训练样本建立分类模型的过程中,SVM 的惩罚因子、 核函数及核函数参数的选择与设置对 SVM 的最终分类结果均有着至关重要的影响[9 ;因此, SVM 模型参数寻优问题的探究逐渐成为该领域的研究热点[10 14 其中文献[ 12 14]更是巧妙地将ACO 算法、 PSO 算法和 ABC 算法融入到 SVM 最佳参数的搜索求解过程中, 它们各自提出的 ACO- SVM 模型、PSO- SVM 模型及 ABC- SVM 模型在同基于网格搜索法(Grid Search Method GSM) 和遗传算法(Genetic Algo-rithm GA)优化的 SVM 性能对比时, 均表现出较强的优势. 然而, 群智能算法本身易受初始条件制约且都存在早熟收敛和陷入局部极值等的可能性, 故目前并未获得有效的 SVM 参数寻优模式. 本文将上述过程得到的混沌鲶鱼蜂群算法作为优化 SVM 参数的一种策略, 并经 UCI 数据集和行为识别真实数据集测试验证表明该方法明显提升了对未知行为的判别准确率.

2 基于混沌鲶鱼效应的人工蜂群算法

2. 1 ABC 算法基本原理ABC 算法受自然界蜜蜂采蜜机理的启示, 将整个蜂群分为引领蜂、 跟随蜂和侦察蜂三类. 其中, 引领蜂和跟随蜂的个数均为种群数量的一半, 侦查蜂的个数为 1;引领蜂和跟随蜂负责食物源的开采过程, 而侦查蜂执行新食物源的探索过程. 该算法在求解优化问题时, 每个食物源的位置对应优化问题的一个可行解, 蜜源的含蜜量则代表求解问题的适应度值, 最优食物源便是优化问题的最优解, 蜜蜂搜索食物源的速度等同于优化目标的求解速度. ABC 算法的整体执行过程可概括为:蜜蜂种群初始化部分、 引领蜂和跟随蜂搜索求解部分和侦查蜂开采新蜜源部分.

2 1 1 蜜蜂种群初始化ABC 算法首先根据式(1) 随机初始化生成 NF d 维食物源向量 F i = (f i1 f i2 …, f id ) i = 1 2 …, NF;然后, 计算出每个食物源所对应的适应度值.f i j = fmini j+ rand(0 1) × (fmaxi j fmini j) (1)式中, j{1 2 …, d} f i j F i 的第 j 维分量, fmaxi j fmini j fi j 的上、 下限.

2 1 2 引领蜂和跟随蜂搜索求解引领蜂通过式(2) 对相应的食物源进行邻域搜索, 若搜索到的食物源的含蜜量更高, 则用新食物源位置 S i = (s i1 s i2 …, s id )代替旧食物源位置 Fi 否则, 将继续保持原位置不变.s i j = f i j+ ηi j × (f i j f k j )(2)式中, k{1 2 …, NF}代表随机选取的不同于 i 的食物源, η i j 是[-1 1 上的一个随机数.当所有的引领蜂完成搜索回到蜂巢并把自身携带的信息传达给跟随蜂后, 跟随蜂则按一定的概率 P i 选择所要跟随的引领蜂, 再按照式(2)在其所选择的食物源附近完成一次邻域搜索, 并判断是否需要更新蜜源.P i = fit iNFi =1fit i(3)式中, fit i 代表第 i 个食物源的适应度值且一般通过式(4)计算求得:fit i =1/(1 + val i ) if val i01 + abs(val i ) if val i{0(4)其中, val i 表示与第 i 食物源 F i 相对应的目标函数值.

2 1 3 侦查蜂开采新蜜源若某个食物源 F i 在连续经过 limit 次循环后一直都未得到替换, 该处的引领蜂便会转变成侦查蜂. 侦查蜂根据式(1)在解空间中随机产生一个新位置来代替F i 并记录下新蜜源的适应度值.综上所述, ABC 算法主要执行了四个选择过程:①跟随蜂按照式(3)发现较好食物源的全局选择过程;②引领蜂和跟随蜂按照式(2)进行邻域搜索的局部选择过程;③引领蜂和跟随蜂对新旧食物源进行判断, 保留优异蜜源的贪婪选择过程;④侦查蜂按照式(1)发现新蜜源的随机选择过程.

2. 2 应用混沌鲶鱼效应改进人工蜂群算法

2 2 1 蜂群混沌初始化种群初始化是进化算法中的一个重要环节, 它不仅影响算法的收敛速度而且制约问题最终解的质量.鉴于混沌运动能够在指定范围内按其自身“规律” 无重复地遍历所有状态, 本文将通过混沌映射充分地提取和捕捉解空间里的信息, 以增强蜜蜂种群的多样性.在混沌理论研究中, 应用较为广泛的一种映射机制是一维的 Logistic 映射[15 其数学迭代方程式为:λ t +1 = μ × λ t (1 λ t ) t =0 1 2 …, T (5)式中, T 是预设的最大混沌迭代次数, λ t 为区间[ 0 1 上均匀分布的随机数且 λ 0 {0 0 25 0 5 0 75 1} μ 是混沌控制参数, μ =4 时, 系统将处于完全混沌状态.起初, 利用式(5)产生一组混沌变量 λ t ;接着, 运用混沌序列依次将 NF d 维食物源向量 F i 按照式(6) 映射到混沌区间[ F min F max 内, 其中 F max F min 代表 F i的最大、 最小边界;最后, 根据式(4)计算出每个食物源对应的适应度值.f i j = f min j+ λi t × (f max j f min j )(6)

2 2 2 混沌鲶鱼蜂开采新蜜源鲶鱼效应是指在某个基本懈怠停滞的自治系统中, 通过适当引入若干异体强者而使系统整体重新恢复活力的一种负激励策略, 它出自于贩卖沙丁鱼为生的挪威商人仅凭几条鲶鱼即可救活整槽沙丁鱼的典故. 这种凭借对手的牵制刺激而使自身得到提升的有效竞争机制, 在金融界和企业管理中得到了广泛应用,文献[ 16 将鲶鱼效应运用到粒子群算法中, 通过鲶鱼粒子的介入, 进而成功地改善了算法求解问题的能力.本文将鲶鱼效应融合到 ABC 算法中. 若引领蜂和跟随蜂在搜索过程中遇到了历经“limit 次仍未更新的食物源, 表明蜂群已经陷入局部最优值, 下一代蜜蜂个体便会在此极值附近停滞, 这不但削弱了整个种群的搜索能力, 而且可能导致算法最终无法收敛于全局最优值. 类似地, 我们将处于此状态下的蜜蜂种群视为“沙丁鱼” 群, 通过引入若干混沌鲶鱼蜂来诱导引领蜂和跟随蜂向新的广阔搜索空间移动, 以增强算法获得全局最优值的几率. 其具体操作如下:(1)升序排列当前 NF 个食物源的适应度值, 并标记出前 10% × NF 个最差蜜源位置;(2)淘汰最差蜜源处的蜜蜂, 以等量混沌鲶鱼蜂代替, 设鲶鱼蜂个数为 M M =10% × NF;(3)按式(7)设置混沌鲶鱼蜂初始位置向量 V dm (0)= (v 1m (0) v2m (0) …, vdm (0)) m =1 2 …, Mv j m (0) =v maxm j if r 0 5v minm j if r0{5(7)其中, v maxm j vminm j 分别表示第 m 个鲶鱼蜂第 j 维上的最大、 最小值;r 是[ 0 1]内的一个随机数, 并令 r 0 5为界点, 以使得 v j m 在两极值处的取值分布近似.(4)混沌鲶鱼蜂根据式(8)进行位置更新, 其中, T为混沌迭代阀值;V dm (t) =V min +(V max V min ) ×Vdm (t) Vdm ∈[ V min V max V dm (t +1) =μ ×Vdm (t) ×(1 Vdm (t)) t =0 1 …,{T(8)(5)利用式(3)与式(4)计算各混沌鲶鱼蜂所处食物源的适应度值, 以替换原蜂群中适应度最小的 M 个值,并同引领蜂和跟随蜂一起进入下一次循环搜索过程.3 SVM 参数优化应用3. 1 支持向量机SVM 的核心思想就是构造一个最优分类超平面,映射到混沌区间[ F min F max 内, 其中 F max F min 代表 F i的最大、 最小边界;最后, 根据式(4)计算出每个食物源对应的适应度值.f i j = f min j+ λi t × (f max j f min j )(6)

2 2 2 混沌鲶鱼蜂开采新蜜源鲶鱼效应是指在某个基本懈怠停滞的自治系统中, 通过适当引入若干异体强者而使系统整体重新恢复活力的一种负激励策略, 它出自于贩卖沙丁鱼为生的挪威商人仅凭几条鲶鱼即可救活整槽沙丁鱼的典故. 这种凭借对手的牵制刺激而使自身得到提升的有效竞争机制, 在金融界和企业管理中得到了广泛应用,文献[ 16 将鲶鱼效应运用到粒子群算法中, 通过鲶鱼粒子的介入, 进而成功地改善了算法求解问题的能力.本文将鲶鱼效应融合到 ABC 算法中. 若引领蜂和跟随蜂在搜索过程中遇到了历经“limit 次仍未更新的食物源, 表明蜂群已经陷入局部最优值, 下一代蜜蜂个体便会在此极值附近停滞, 这不但削弱了整个种群的搜索能力, 而且可能导致算法最终无法收敛于全局最优值. 类似地, 我们将处于此状态下的蜜蜂种群视为“沙丁鱼” 群, 通过引入若干混沌鲶鱼蜂来诱导引领蜂和跟随蜂向新的广阔搜索空间移动, 以增强算法获得全局最优值的几率. 其具体操作如下:(1)升序排列当前 NF 个食物源的适应度值, 并标记出前 10% × NF 个最差蜜源位置;(2)淘汰最差蜜源处的蜜蜂, 以等量混沌鲶鱼蜂代替, 设鲶鱼蜂个数为 M M =10% × NF;(3)按式(7)设置混沌鲶鱼蜂初始位置向量 V dm (0)= (v 1m (0) v2m (0) …, vdm (0)) m =1 2 …, Mv j m (0) =v maxm j if r 0 5v minm j if r0{5(7)其中, v maxm j vminm j 分别表示第 m 个鲶鱼蜂第 j 维上的最大、 最小值;r 是[ 0 1]内的一个随机数, 并令 r 0 5为界点, 以使得 v j m 在两极值处的取值分布近似.(4)混沌鲶鱼蜂根据式(8)进行位置更新, 其中, T为混沌迭代阀值;V dm (t) =V min +(V max V min ) ×Vdm (t) Vdm ∈[ V min V max V dm (t +1) =μ ×Vdm (t) ×(1 Vdm (t)) t =0 1 …,{T(8)(5)利用式(3)与式(4)计算各混沌鲶鱼蜂所处食物源的适应度值, 以替换原蜂群中适应度最小的 M 个值,并同引领蜂和跟随蜂一起进入下一次循环搜索过程.

3 SVM 参数优化应用

3. 1 支持向量机SVM 的核心思想就是构造一个最优分类超平面,大更新次数 limit 和循环终止次数 MC.其次, 确定模型适应度函数形式;本文算法是将SVM 分类器的分类正确率作为评价准则, 故适应度函数定义为:fit =11- Accuracy(13)式中, 分类正确率 Accuracy k 折交叉验证法求得的平均交叉验证识别率获得. k 折交叉验证法是指:将样本数据集随机划分成 K 个子集, 依次把其中的一个子集作为测试集, 剩余的 K- 1 组子集作为训练集, 重复进行 K 次训练, 而得到 K 个分类器模型的过程, 再利用得到的这 K 个分类器的分类准确率的平均值作为整个数据集分类器的性能指标, 即式(13)中的 Accuracy 值.最后, 设定惩罚因子 C BF 核参数 γ 的搜索范围;用以减少模型求解的时间[13 CCABC- SVM 模型的整体运行过程, 如图 1 所示:

4 CCABC- SVM 模型实验及应用

4. 1 UCI 数据测试本文提出的 CCABC- SVM 参数优化模型通过 Mat-lab2013a 编译实现, 算法中的 SVM LIBSVM 18 开源软件包提供, 为了验证该模型的有效性和评估其性能,使用来自 UCI 中的 8 个标准数据集来完成实验测试,数据集的相关信息如表 1 所示. 实验平台在 Intel Core2 2 8GHz CPU 2. 0GB 内存、 操作系统为 Windows7 的计为方便 LIBSVM 对数据的处理以及消除因数据尺度不统一对分类准确率所造成的影响, 数据集中的数据均先按照式(14) 归一化到区间[-1 tif +1 上.x ' =2 ×x L iU i L i1 (14)其中, x ' 为处理后的值, x 为原数据值, U i L i 则分别表示第 i 个特征取值的上、 下界.便于对比其他模型的测试结果, 经实验将本模型中的各参数设置为:蜜源数目 NF =20 食物源最大更新次数 limit = 5 最大循环次数 MC = 100 最大混沌迭代次数 T =300 惩罚因子 C 的取值范围为[ 0 01 35000 ,RBF 核函数参数 γ 的范围为[ 0 0001 32 交叉验证度k =10 然后, 利用 CCABC- SVM 模型和 ABC- SVM 模型共同在上述 8 UCI 数据集上进行分类测试实验, 并将它们各自得到的 Accuracy 同特征染色体遗传算法(Genetic Algorithm with Feature Chromosomes FCGA)优化 SVM 参数模型(FCGA- SVM) 11 蚁群算法优化 SVM参数模型(ACO - SVM) 12 及粒子群算法优化 SVM 参数模型(PSO- SVM) 13 依次对比:由表2 可知, CCABC- SVM 模型较其他四种模型在处理分类问题上更具优势, 在提高 SVM 分类正确率的同时也强化了 SVM 的学习性能. 为便于更加具体地说明CCABC 算法拥有比基本 ABC 算法更好的求解能力, 将它们在处理2 类样本集 Australian 3 类样本集 Iris 6 类样本集 Glass 11 类样本集 Vowel 的分类问题中, 所得到的循环迭代次数 Generation 和每代最优分类正确率 Ac-curacy 之间的关系以曲线图的形式分别绘制如图2.图 2 中, 曲线的倾斜程度反映了算法寻优的速度,水平线表示种群已陷入局部最优解, 曲线的拐点代表种群已跳出局部极值. 从图中可明显看出, ABC 算法相比, 混沌鲶鱼蜂群算法具有更高效的搜索寻优速度,即使进入迭代后期, 算法同样具有很强的摆脱局部停滞的能力;尽管在数据集 Iris 上两个算法都获得了100%的分类正确率, 但是 CCABC 算法比基本 ABC 算法更早收敛于全局最优值.

4. 2 行为识别真实数据测试随着智能手机与人们日常生活联系的日益紧密,智能手机的功能也逐渐多样化, 其内嵌的各式传感器不仅能为用户提供语音识别、 位置锁定及健康监测等服务, 而且也因它们具有比其他用于行为姿态识别研究的专用硬件设备更低的成本且携带便捷、 不易受外界环境限制等优势, 目前已被广泛应用于对特定的行为动作进行实效数据采集上[19 21 然而, 基于智能手机传感器的行为识别模型, 均需要附加额外的分类器对这些已有的行为数据进行学习, 以便通过预测或判别某未知行为来方便人们做出最佳决策.通过利用智能手机里的加速度传感器和陀螺仪传感器对 10 名志愿者的 7 种日常行为进行信号采集, 7 种日常行为分别是:站立、 行走、 就坐、 平躺、 上楼、 下楼和慢跑. 记录下各行为所对应的加速度等传感器值并附上行为标签, 在经过降噪等处理后, 最终获得了行为识别真实数据集.将上述收集的数据集输入到 CCABC- SVM 模型中进行行为识别测试, 并与文献[ 19]中基于网格搜索的SVM(GSM- SVM)方法及传统 SVM 方法的学习结果进行对照, 如表 3 所示. 其中, 三分之二的数据记录作为训练集, 剩余的用作测试集;鉴于数据集的特性及便于结果对比, 现将蜜源的数量 NF 设为 40 食物源最大更新次数 limit 50 最大循环次数 MC 1000 最大混沌迭代次数 T 300 惩罚因子 C 的取值范围为[ 0 11000 BF 核函数参数 γ 的范围为[ 105 10 交叉验证度 k 10.由表 3 所示, 本文所提的 CCABC- SVM 7 种行为活动中均获得了较高的识别率, 特别是明显提高了对动态活动行为的辨别能力, 这在一定程度上也预示了本模型亦可用于更复杂的行为活动分辨上.

5 结论

惩罚因子 C BF 核函数 γ 是决定支持向量机学习能力的两个重要因素, 本文将混沌鲶鱼蜂群算法应用于求解此问题, 进而提出一种新的 CCABC- SVM 寻优参数模型, 并从可行性和实用性两方面对其有效性加以验证. 测试结果表明本模型具有比基本 ABC 算法更快的收敛速度和更强的跳出局部极值的能力, 明显地改善了 SVM 的学习能力, 提高了其分类性能. 在未来研究中, 将考虑采用特征选择理论对样本数据集进行预处理, 以消除其中的冗余特征, 使得 SVM 的学习能力进一步提升并做出更准确的判断. 另外, 本文提出的混沌鲶鱼蜂群算法同样适用于解决其他核函数的 SVM 参数优化问题.

参考文献[ 1Karaboga D An Idea Based on Honey Bee Swarm for Nu-merical Optimization R] Kayseri:Erciyes University Engi-neering Faculty Computer Engineering Department 2005.[ 2]高卫峰, 刘三阳, 黄玲玲. 受启发的人工蜂群算法在全局优化问题中的应用[ J 电子学报, 2012 40(12):2398 2403Gao Wei- feng Liu San- yang Huang Ling- ling Inspired ar-tificial bee colony algorithm for global optimization prob-lemsJ Acta Electronica Sinica 2012 40(12):2398 2403 (in Chinese) 3]张银雪, 田学民, 邓晓刚. 基于改进人工蜂群算法的盲源分离方法[ J 电子学报, 2012 40(10):2026 2030Zhang Yinxue Tian Xuemin Deng Xiaogang Blind sourceseparation based on modified artificial bee colony algorithm J Acta Electronica Sinica 2012 40(10):2026 2030(in Chinese) 4Xie Chunli Shao Cheng Zhao Dandan Parameters optimiza- tion of least squares support vector machines and its applica-tion J Journal of Computers 2011 6(9):1935 1941.[ 5Yu Jieyue Lin Jian The ink preset algorithm based on themodel optimized by chaotic bee colony A Proceedings ofthe 5th International Congress on Image and Signal Process-ing.[ C America:IEEE Computer Society 2012547 551.[ 6]李志勇, 李玲玲, 等. 基于 Memetic 框架的混沌人工蜂群算法[ J 计算机应用研究, 2012 29(11):4045 4049Li Zhi- yong Li Ling- ling et al Chaos artificial bee colonybased on Memetic frameworkJ Application research ofComputers 2012 29(11):4045 4049 (in Chinese) 7Zhang Likang An analysis of common search in Chinese ofGoogle the meta library J Data Science Journal 2007 6(Supplement):813 823.[ 8Vapnik V The Nature of Statistical Learning Theory M New York:Springer Science Business Media 200010 60.[ 9Keerthi S S Lin C J Asymptotic behaviors of support vec-tor machines with Gaussian kernelJ Neural Computa-tion 2003 15(7):1667 1689.[ 10Friedrichs F Igel C Evolutionary tuning of multiple SVM pa-rameters J Neurocomputing 2005 64(Special):107 117.[ 11Zhao Mingyuan Fu Chong et al Feature selection and pa-rameter optimization for support vector machines:A newapproach based on genetic algorithm with feature chromo-somesJ Expert Systems with Applications 2011 38(5):5197 5204.[ 12 Alwan H B Ku- Mahamud K R. Solving support vectormachine model selection problem using continuous antcolony optimization J International Journal of Informa-tion Processing and Management 2013 4(2):86 97.[ 13Lin S W Ying K C et al Particle swarm optimization forparameter determination and feature selection of supportvector machinesJ Expert Systems with Applications2008 35(4):1817 1824.[ 14]刘路, 王太勇. 基于人工蜂群算法的支持向量机优化[ J 天津大学报, 2011 44(9):803 809Liu Lu Wang Taiyong Support vector machine optimizationbased on artificial bee colony algorithm J Journal of Tian-jin University 2011 44(9):803 809 (in Chinese) 15Schuster H G Wolfram J Deterministic Chaos:An Intro-ductionM Weinheim:WILEY- VCH Verlag GmbH Co KGaA 2005 19 68.[ 16Chuang L Y Tsai S W Yang C H Fuzzy adaptive catfishparticle swarm optimization J Artificial Intelligence e-search 2012 1(2):149 170.[ 17Muller K Mike S et al An introduction to kernel- basedlearning algorithms J IEEE Transactions on Neural Net-works 2001 12(2):181 201.[ 18Chang C C Lin C J LIBSVM:A library for support vec- tor machinesJ ACM Transactions on Intelligent Sys-tems and Technology 2011 2(3):27:1 27:27.[ 19Davide A Alessandro G et al Human activity recognitionon smartphones using a multiclass hardware- friendly sup-port vector machine A International Workshop of Am-bient Assisted LivingC Berlin Heidelberg: SpringerVerlag 2012 216 223.[ 20Hamm J Stone B et al Automatic Annotation of Daily Activity from Smartphone- Based Multisensory Streams M Berlin Heidelberg: Springer Verlag 2013 328 342.[ 21Pekka S Juha R. ecognizing human activities user- inde-pendently on smartphones based on accelerometer data J International Journal of Artificial Intelligence and In-teractive Multimedia 2012 1(5):38 45

[返回]
上一篇:基于区域上下文感知的图像标注
下一篇:基于深度学习的作曲家分类问题