摘要 针对传统单核分类器存在的固有二分类属性及识别信息不够完整的问题，首次提出了一种基于多核多分类相关向量机（MMRVM）的变压器局部放电模式识别新方法。首先选用不同的核函数对 4 种变压器局部放电信号特征进行映射，解决了不同数据源的问题；然后利用粒子群优化算法对核参数进行优化选择，有效避免了核参数选择的主观性；最后利用构建出的 MMRVM分类模型直接进行多分类，实现放电模式识别。文中以实验室 4 种典型缺陷的变压器局部放电信号为研究对象，采用传统单核 SVM 分类器、单核 RVM 分类器与 MMRVM 分类器对其进行分析对比。结果表明，MMRVM 分类器融合了多种放电特征信息，能够较为全面的描述放电特征，与单核分类器相比具有更高的诊断准确率和更好的实用性。

关键词：多核 多分类 相关向量机 变压器 局部放电 模式识别

1 引言

局部放电是设备绝缘劣化的重要征兆和表现形式，对局部放电进行有效检测能够正确评估设备内部绝缘状况。不同类型的局部放电对设备的绝缘破坏力有较大差异，因此有效识别放电类型对设备的检修及维护具有重要的指导意义 [1,2] 。分类器的设计是模式识别领域中非常重要的环节。近年来，众多学者将各种模式分类器应用到局部放电的模式识别中，并取得了良好的应用效果。文献[3]将一种扩展型神经网络分类器用于电流变压器的局部放电模式识别，用来识别不同的放电类型，得到了较好的识别结果。文献[4]利用支持向量机（SVM）对实验及现场环境下的电晕放电、沿面放电和内部放电三种类型的局部放电进行识别，均取得了较高的识别率。

文献[5]利用最小二乘支持向量机（LS-SVM）的方法识别局部放电的类型，具有计算速度快、识别精度高的特点。然而 BP 神经网络具有样本需求量大、算法收敛慢及容易陷入局部极小的缺点，SVM 也因其固有的二分类属性、核函数受 Mercer 条件限制以及规则化参数选取困难等特点，而在实际应用中具有一定的局限性 [6-12] 。并且上述模式识别方法仅是对局部放电的单一特征进行分析，信息提取不够完全，无法全面的描述局部放电特征。如果将多种局部放电特征信息融合到一起作为模式分类器的输入，又会使输入特征维数增高，导致分类器收敛困难，影响分类性能。

针对上述问题，本文首次提出基于多核多分类相 关 向 量 机 （ Multi-kernel Multi-class RelevanceVector Machine, MMRVM）的变压器局部放电模式识别方法。MMRVM 是一种基于贝叶斯框架的统计学习方法，该方法在贝叶斯框架下进行学习，其核函数不受 Mercer 条件限制，能够直接实现多分类，并可以得出各成分概率统计信息，便于分析不确定问题 [13,14] ；此外，多核函数的引入可以解决多个不同数据源的复杂问题。因此该方法针对局部放电模式识别中特征提取的多元化和放电类型的多样性具有较好的适用性。本文在实验室条件下，对采集到的变压器模型放电信号进行分析，采用 4 种不同的特征提取方法提取出不同的局部放电特征参数，对每种放电特征选取不同的核函数进行映射， 构建出 MMRVM 分类器，实现放电模式识别。实验结果验证了该方法的有效性。

2 MMRVM 分类模型

2.1 模型介绍MMRVM

在贝叶斯框架下进行学习，通过多项概率似然函数实现多核多分类及概率输出 [8,13,14] 。给定 S 个特征空间的样本数据集1{ , } ,s Ni i iX x tDx R  ， 其中 {1, , } s S   ， {1, , } t C   ， N 为样本数，D 为特征向量维数，C 为类别数。给定核函数时可得基核函数sK ，s N NK R ，定义组合核矩阵1( , ) ( , )Ss s si j s i jsK x x K x x  （1）引 入 辅 助 回 归 目 标N CY R 及 权 重 参 数N CW R ，则有标准噪声模型,nc c ny w k  ～ ( ,1)ncy n cN k w（2）引入多项概率连接函数n nit i y ＞njy j i   （3）将回归目标转化为类别标签。由此产生多项概率似然函数如式（4）所示。  ( ), ( ( )n nn p u i jj iP t i W k u k w w          （ 4 ）其中， u ～ (0,1) N ，  为高斯累积分布函数。参数 W中的回归因子ncw 满足均值为 0 ，方差为1nca  的标准正态分布，其中 a nc 构成了尺度矩阵N CA R ，并且a nc 服从超参数  、  的 Gamma 分布。该分层贝叶斯模型结构如图 1 所示。图 1 贝叶斯模型Fig.1 Bayesian model

2.2 MMRVM 模型学习

MMRVM 采用快速 type-II 最大似然参数更新方法。由 log 边缘似然函数可以推导出T 111( ) log2 log2Cc ccL A N y C yC     （ 5 ）式中， C1 TI KA K  ， C 可以分解为1 T 11i i i i iC C k C k     （ 6 ）式中，iC  表示删除第 i 个样本后的 C 值。则有1 T 11 1T 1i i i iii i i iC k k CC Ck C k      （ 7 ）将 log 边缘似然函数进一步分解为( ) ( ) ( )i iL L l     （ 8 ）其中，211( ) log log( )2Ccii i i ii icql ss         ，稀疏因子T 1i i i is k C k ，量化因子T 1ci i i cq k C y 。通过求解 ( )/ 0iL A     可得以下驻点221iiCci icCsq Cs21Ccicq＞iCs （ 9 ）i  21Cci icq Cs≤ （ 10 ）参数21Ci ci icq Cs  用来描述样本对模型的信息贡献量。在模型训练过程中，最大后验值更新为T 1 Tˆ( ) W K K A K Y      （ 11 ）T T11ˆargmin2s.t 0  and  1Si ssfi         ≥（ 12 ）其中，N MK R ，M MA R ， M<< N 。由式（ 4 ）及文献 [14] 可推导出辅助变量的后验分布，给定类别 i ，对于 c i   ，有  ˆ ˆ, ,( )ˆˆ ˆ, ,( )ˆ ˆ ( ,1)ˆ ˆˆ ˆ ( )n nnn nn i cp u u c i unc cn i cp u i c uN k w k wy k wu k w k w       （ 13 ）先验参数的后验概率分布如下：21 12 1( ) ( ) ( ) ,2 2C Nncc nwP AW P W A P A G         （ 14 ）Gamma 分布的均值为22 12ncncw（ 15 ）

3 基于 MMRVM 的局部放电类型识别

3.1 局部放电信号采集根据变压器内部的绝缘结构特征，局部放电主要划分为悬浮放电、针板放电、沿面放电和气隙放电 [15] 四种类型，各类型的放电模型如图 2 所示。四种放电模型均放置在装有变压器油的油箱中。（a）悬浮放电 （b）针板放电（c）沿面放电 （d）气隙放电图 2 局部放电模型Fig.2 Partial discharge models在表 1 所示的实验室条件下对每种放电模型施加电压。表 1 中悬浮放电试验电压为 15kV 和 24kV ，表示为 15/24 ，对应的试验样本个数表示为 30/30 。采用检测频带宽度为 10 ～ 3 000MHz 的超高频传感器和 WavePro 7100 高速数字采集系统进行放电信号采样，采样频率为 5GHz 。表 1 放电模型试验条件Tab.1 Test condition of partial discharge models放电类型试验电压/kV样本个数悬浮放电  15/24  30/30针板放电  10/15  30/30沿面放电  15/20  30/30气隙放电  10/15  30/30

3.2 信号预处理在放电信号特征提取之前，首先要对信号进行预处理，包括信号截取、信号消噪及信号归一化三部分。本文截取局部放电信号长度为 1 024 。由于实验室环境下的背景噪声干扰会对信号分析产生不利影响，需要对采集到的放电信号进行消噪处理。本文采用具有较好消噪效果的 db4 小波对信号进行消噪 [16] 。为了保证信号间的可比性，将消噪后信号按式（ 16 ）进行归一化处理。minmax miniix xyx xi=1, 2, … , N （ 16 ）式中， x i 为消噪后的信号； y i 为归一化之后的信号；N 为信号长度。

3.3 特征提取局部放电特征量的提取是放电模式识别的关键步骤。本文对 4 种放电类型的 240 个放电样本分别采用四种特征提取方法进行参数提取，包括时域波形特征提取法 [17] 、频域特征提取法 [18] 、统计特征提取法 [19] 及小波域特征提取法 [20] 。其中波形特征法针对单个放电脉冲进行特征提取；频域特征法对经过傅里叶变换后的放电信号进行特征提取；统计特征法对 50 个工频周期内的放电信号进行统计参数提取；小波域特征法利用 db4 小波对放电信号进行 4层小波分解，将每层的近似系数与细节系数的平方和与数据长度的比值作为放电特征量。提取出的局部放电特征属性及物理意义如表 2 所示，其对应的特征空间分布情况如表 3 所示。

3.4 核函数选择核函数的类型会影响样本的识别精度，而核函数的选取取决于样本数据的分布和样本输入变量与输出变量之间的关系。文中由于不同特征空间的数据分布不同，分类器的性能很大程度上取决于核函数的选择。因此针对不同的放电特征选取合适的核函数是十分重要的。目前常用的核函数主要有以下4 种，分别为 [21]线性核函数( , ) k x x xx    （ 17 ）多项式核函数1( ( , ) 1) p k x x xx     （ 18 ）高斯核函数22( , ) exp( ( )( ) /2 ) k x x x x x x p         （ 19 ）Sigmoid 核函数3 4tanh( ) ( , ) k x p xx x p   （ 20 ）本文将对每种放电特征分别选用不同的核函数得到不同的识别结果，通过分析对比来选择合适的核函数。

3.5 核参数选择由于 MMRVM 通过引入超参数对权重向量赋予零均值高斯先验分布，并采用最大化边缘似然函数来估计超参数，在超参数估计的过程中自动调节规则化系数，从而不需要对规则化系数进行验证。此外，核组合系数也在模型学习的过程中自动优化，从而只需要对核参数进行设置 [14] 。由 3.4 节可知待定核参数为 p 1 、 p 2 、 p 3 、 p 4 。为了消除人为主观因素的影响，本文采用粒子群优化算法对核参数进行寻优。粒子群算法（ Particle Swarm Optimization, PSO ）是计算智能领域内的一种群体智能的优化算法 [22] 。假设在 D 维空间中，由 n 个粒子组成的种群X ，第 i 个粒子表示为一个 D 维矢量T1 2( , , , )i i i iDx x x   X 。根据目标函数计算出每个粒子位置 X i 对应的适应度值。第 i 个粒子的速度为T1 2( , , , )i i i iDV V V   V ，其个体极值为1 2( , , ,i i iP P   PT)iDP ，种群的群体极值为T1 2( , , , )g g g gDP P P   P 。每次迭代过程中，粒子通过个体极值和群体极值更新自身的速度和位置，即11 1 2 2( ) ( )k k k k k kid id id id gd idV V c r P X c r P X      （ 21 ）1 1 k k kid id idX X V   （ 22 ）式中，  为惯性权重， 1,2, , ; 1,2, , ; d D i n     k 为当前迭代次数； V id 为粒子速度； c 1 、 c 2 是加速度因子，为非负常数； r 1 、 r 2 是 [0,1] 区间内的随机数。为防止盲目搜索，一般将粒子的位置和速度限定在区间max max[ , ] X X  ，max max[ , ] V V  。算法步骤如下：（ 1 ） PSO 参数初始化，包括群体规模、粒子维数、迭代次数、粒子速度和位置。（ 2 ） 以 K 折交叉验证的平均正判率 f m 作为 PSO的适应度评价函数，计算各粒子适应度函数值。1,1 100( (( ), ), )card( )si ikKs sm k i isk kx t Xf I X X x tK X   （ 23 ）式中， card( )skX 表示数据集skX 包含样本个数，( , )s sk iI X X x  代表由数据集s skX X  学习得到的分类器对 x i 的分类结果，此外1( , )0i ji ji j  （ 24 ）（ 3 ）比较粒子当前的适应度值和个体最优适应度值，若优于个体最优值，则将当前位置作为该粒子最优位置。（ 4 ）将各粒子最优位置适应度值与群体最优位置适应度值进行比较，若更优，则将该粒子最优位置作为群体最优位置。（ 5 ）根据式（ 21 ）和式（ 22 ）更新粒子速度和位置。（ 6 ）检查是否满足终止条件，若不满足则返回步骤（ 2 ） ，若满足则过程终止，输出结果。

3.6 基于 MMRVM 局部放电模式识别流程基于 MMRVM 的局部放电模式识别融合了不同特征的放电信息，利用不同的核函数进行空间映射，并利用 PSO 优化算法对核参数进行寻优选择，具体流程如下：（ 1 ）通过实验方式获取局部放电原始数据。（ 2 ）对获得到的放电信号进行数据预处理，并将处理过后的数据按一定比例划分为训练样本和测试样本。（ 3 ）对预处理后的数据以不同的特征提取方法进行参数提取，获取不同类型参数的特征空间。（ 4 ）针对不同类型参数的特征空间分别选择适当的核函数进行映射，构造多核核函数。（ 5 ）对多核核函数的核参数利用 PSO 进行参数优化配置，形成 MMRVM 融合模型。（ 6 ）将训练样本送入 MMRVM 模型进行学习，输出 MMRVM 分类模型。（ 7 ）将测试样本送入 MMRVM 分类模型进行测试，输出测试结果。该模式识别流程如图 3 所示。图 3 基于 MMRVM 局部放电模式识别流程Fig.3 Partial discharge pattern recognition flow chantbased on MMRVM4 实验结果分析对每种放电类型采集 60 组实验数据，选取 30组用来训练， 30 组用来测试。为了分析不同放电特征的核函数性能，对单核SVM 和单核多分类 RVM 进行对比实验分析。其中SVM 采用“一对一”多分类方法， 并利用网格搜索和 10- 折交叉验证的方法确定 SVM 与 RVM 的核参数及 SVM 的惩罚因子。经多次计算求均值，选取 SVM的惩罚因子 C=1 ，核函数参数 p 1 ′ =1.5 ， p 2 ′ =0.7 ，p 3 ′ =2 ， p 4 ′ =1.5 。 RVM 的核参数 p 1 ″ =2.3 ， p 2 ″ =1 ，p 3 ″ =1.5 ， p 4 ″ =2 。表 4 列出了不同局部放电特征关于单核分类器的识别精度。由表 4 可以看出，不同放电特征的核性能有很大差别。对于局部放电时域特征和统计特征， SVM与 RVM 的最佳核函数均为 RBF 核函数；对于频域特征， SVM 最佳核函数为 RBF 核函数，而 RVM 为Sigmoid 核函数；对于小波域特征， SVM 的最佳核函数为多项式核函数， RVM 则为 RBF 核函数。由以上分析可得到各放电特征的最优核组合。对于 MMRVM 分类器的参数设定问题， 本文采用粒子群优化算法进行寻优选择。文中设定粒子种群数为 30 ， 1   ， c1=c2=2 ，最大迭代次数 N=50 ，采用 5 折交叉验证的平均正判率作为适应度函数。不同放电特征对应的最优核函数及 PSO 算法优化后的核参数如表 5 所示。将单核分类器对不同特征 20 次的识别结果取平 均 ， 并 将 其 与 表 5 所 示 的 最 优 组 合 得 到 的MMRVM 分类器进行对比，结果如表 6 所示。由表 6 可以看出，对于不同的核函数，分类器的性能具有较明显的差异。对于单核分类器， RVM分类器在贝叶斯框架下学习，较 SVM 具有更短的学习时间及更少的向量个数；相对于单核分类器，多核 RVM 分类器由于融合了多种放电特征信息，并对每种放电特征选用了合适的核函数及核参数，识别精度达到了 96.67% ， 具有更高的识别精度和更好的实用性。由表 7 可见，对于不同类型的局部放电信号，不同的分类器具有不同的识别效果。对于 4 种典型放电模式，分别利用 30 个样本作为训练集， 30 个样本作为测试集。结果表明， MMRVM 由于融合了多组特征的局部放电信息，能够较为全面的描述放电特征， 对 4 种放电模式的平均识别精度为 94.17% ，明显高于单核 SVM 与 RVM 分类器（均为 86.67% ） 。

5 结论

本文在实验室条件下对变压器局部放电信号进行分析， 首次将 MMRVM 分类器应用到局部放电模式识别中，对于不同类型特征参数选用不同的核函数进行映射，实现了 4 种放电类型的识别。结论如下：（ 1 ）文中设计出的多分类多核相关向量机（ MMRVM ）分类模型在贝叶斯框架下进行学习，其核函数不受 Mercer 条件限制， 能够直接实现多分类，且不同核函数的引入有效解决了不同数据源的复杂问题。（ 2 ）利用粒子群优化算法对组合核参数进行了寻优配置，选择最优的核参数，有效避免了核参数选择的主观性。（ 3 ）识别结果表明，本文设计的 MMRVM 分类器由于融合了多种类型的放电特征信息，能够较为全面的描述放电特征，与单核 RVM 及 SVM 相比，具有更高的诊断准确率和更好的实用性。

参考文献[1]  郭俊, 吴广宁, 张血琴, 等. 局部放电检测技术的现状和发展[J]. 电工技术学报, 2005, 20(2): 29-35.Guo Jun, Wu Guangning, Zhang Xueqin, et al. Theactuality and perspective of partial discharge detectiontechniques[J]. Transactions of China ElectrotechnicalSociety, 2005, 20(2): 29-35.[2]  Judd M D, Cleary G P, Bennoch C J. Applying UHFpartial discharge detection to power transformers[J].IEEE Power Engineering Review, 2002, 22(8): 57-59.[3]  Mang-Hui Wang. Partial discharge pattern recognitionof current transformers using an ENN[J]. IEEETransactions on Power Delivery, 2005, 20(3): 1984-1990.[4]  Hao L, Lewin P L. Partial discharge source discrimina-tion using a support vector machine[J]. IEEE Transac-tions on Dielectrics and Electrical Insulation, 2010,17(1): 189-197.[5]  安学利, 赵明浩, 蒋东翔, 等. 基于支持向量机和多源信息的直驱风力发电机组故障诊断[J]. 电网技术, 2011, 35(4): 117-122.An Xueli, Zhao Minghao, Jiang Dongxiang, et al.Direct-drive wind turbine fault diagnosis based onsupport vector machine and multi-source information[J]. Power System Technology, 2011, 35(4): 117-122.[6]  郭创新, 朱承治, 张琳, 等. 应用多分类多核学习支持向量机的变压器故障诊断方法[J]. 中国电机工程学报, 2010, 30(13): 128-134.Guo Chuangxin, Zhu Chengzhi, Zhang Lin, et al. A fault diagnosis method for power transformer basedon multiclass multiple-kernel learning support vectormachine[J]. Proceedings of the CSEE, 2010, 30(13):128-134.[7]  TIPPING M E. Sparse Bayesian learning and therelevance vector machine[J]. Journal of MachineLearning Research, 2001, 1: 211-244.[8]  尹金良, 朱永利, 俞国勤. 相关向量机及其在变压器故障诊断中的应用[J]. 电力自动化设备, 2012,32(8): 130-134.Yin Jinliang, Zhu Yongli, Yu guoqin. Relevancevector machine and its application in transformer faultdiagnosis[J]. Electric Power Automation Equipment,2012, 32(8): 130-134.[9]  TIPPING M E. The relevance vector machine[J].Advances in Neural Information Processing Systems,2001(12): 652-658.[10] 周欣, 吴瑛. 基于 SVM 和 RVM 的信号调制分类研究[J]. 通信学报, 2010, 31(8): 94-99.Zhou Xin, Wu Ying. Research on signals modulationclassification based on SVM and RVM[J]. Journal onCommunications, 2010, 31(8): 94-99.[11] 孙国强, 卫志农, 翟玮星. 基于 RVM 与 ARMA 误差校正的短期风速预测[J]. 电工技术学报, 2012,27(8): 187-193.Sun Guoqiang, Wei Zhinong, Zhai Weixing. Shortterm wind speed forecasting based on RVM andARMA error correcting[J]. Transactions of ChinaElectrotechnical Society, 2012, 27(8): 187-193.[12] Damoulas T, Ying Y, Girolami M A, et al. Inferringsparse kernel combinations and relevance vectors: anapplication to subcellular localization of proteins[C].Proceedings of the 7th International Conference onMachine Learning and Applications, San Diego, USA,2008.[13] Psorakis I, Damoulas T, Girolami M A. Multiclassrelevance vector machines: sparsity and accuracy[J].IEEE Transactions on Neural Networks, 2010, 21(10):1588-1598.[14] Damoulas T, Girolami M A. Combining feature spacesfor classification[J]. Pattern Recognition, 2009, 42(11):2671-2683.[15] 李剑, 王小维, 金卓睿, 等. 变压器局部放电超高频信号多尺度网格维数的提取与识别[J]. 电网技术,