摘要:为了提高基于 Internet 的网络控制系统中随机时延的预测精度， 提出了基于经验模式分解(empiricalmode decomposition， EMD)与最小二乘支持向量机(Least Squared Support Vector Machines， LS- SVM)的一步时延预测方法． 首先利用 EMD 将时延序列分解成若干个本征模式函数分量， 分解后的分量去除了原始时延序列的长相关性， 同时突出时延序列不同的局部特征． 然后根据各个分量的变化规律， 选择不同的 LS- SVM 模型分别进行预测． 最后将各分量的预测值叠加得到最终的预测值． 仿真结果表明本文方法具有较高的预测精度．

关键词: 网络控制系统; 经验模式分解; 最小二乘支持向量机; 时延; 预测

1 引言

网络控制系统(Networked Control System， NCS)是以网络作为被控对象， 传感器、 执行器和控制器之间信号通过网络传输的全分布、 网络化的实时反馈控制系统． 其中网络诱导时延的引入， 将对网络控制系统的性能产生影响， 准确测量、 分析和预测网络时延对研究和控制这类系统是非常重要的．目前对网络控制系统时延预测的研究可分为以下几个大方向． 回归建模预测方法［1 ～4 ］ ， 采用回归方法的预测需要对模型精确建模， 其模型的参数求解过程复杂， 很难在线递推， 不适合网络时延动态变化范围很大的情况． 神经网络具有非线性辨识能力， 且运算速度快，因此可使用神经网络来进行时延的预测［5 ～8 ］ ， 但基于神经网络的时延预测方法存在易限入局部最优值以及过分依赖输入时延序列的自相关系数的问题．

SVM 在非线性、 小样本以及高维模式识别问题有独特的优势， 可以将其用于具有强烈非线性特点的网络时延的预测［9 ～11 ］ ， 但是基于 SVM 的预测算法的参数很难确定． 对网络时延数据进行分析， 研究其分布规律进行预测也是一个研究的方向［12 ～16 ］ ， 基于统计分析的方法存在的问题是分布参数难以求解， 同时由于时延的随机性， 其预测精度很难保证．本文针对网络控制系统中的随机时延预测而提出一种基于经验模式分解与最小二乘支持向量机的一步时延预测方法， 首先利用 EMD 将网络时延序列分解为若干个本征模式函数(Intrinsic Mode Function， IMF)， 从而将长相关时延序列预测问题转变为短相关时延序列的预测问题， 降低了模型的复杂度． 然后利用 LS- SVM算法对时延序列的每个 IMF 分量以及余量进行建模预测， 最后将所有 IMF 分量和余量的预测值组合叠加得到最终的预测值． Matlab 仿真结果表明本文的方法具有较高的预测精度．

2 时延样本测量

预测算法的精确度与时延样本的准确是密切相关的， 为了获取准确的时延样本， 本文利用 Visual Basic 程序开发了一套时延测试软件， 该软件通过调用 API 函数 QueryPerformanceCounter 和 QueryPerformanceFrequen-cy 来实现毫秒级的定时精度． 软件界面如图 1．

3 经验模式分解

经验模式分解是由 Huang 等［17 ］ 在 1998 年提出的一种新的信号处理方法． 其在时间序列方面目前有着很多的应用［18， 19 ］ ．经验模式分解本质是对时间序列进行平稳化处理， 将原始信号分解为若干个本征模式函数， 根据经验确定数据中有效信号的基本震荡模式． 最低频的 IMF分量通常代表原始信号的趋势． 这些 IMF 需要满足如下条件:(1)信号极值点的数量与过零点数量必须相等或最多相差一个;(2)在任一点上信号局部最大值与局部最小值定义的包络的均值为零． 经验模式分解的主要过程如下:Step1 将原始信号序列 x(t)的所有极大值与所有极小值点分别用 2 条 3 次样条曲线拟合， 得到 x(t)的上下两条包络线， 计算两条包络线的均值， 用 m(t)代表两条包络线的平均值， 令 h(t) = x(t) － m(t)．Step2 若 h(t)不满足 IMF 的要求， 则重复 1 求取新的 h(t)， 若 h(t)满足 IMF 的要求，则令 h(t)为 x(t)的第一个 IMF， 同时求出 x(t)与该 IMF 的差值 r(t)．Step3 将 r(t)作为待分解信号， 重复上述过程直到剩余信号满足给定的终止条件(r(t)足够小或者为一单调函数)．

经验模式分解的最终结果可表示为x(t) = ∑ni =1c i (t) + r n (t) (1)其中 c i (t)为第 i 个 IMF 分量， r n为剩余分量，因此经验模式分解可将原始信号 x(t)分解为n 个不同频率的 IMF 和一个趋势项之和．时延序列的自相似性可用自相似参数(Hurst 参数)H 来表征， H∈(0． 5， 1)， H 越大代表网络时延序列自相似程度越高． 图 2 为通过时延测试软件测得的 500组时延序列． 前 400 组用于训练建模， 后 100 组于用验证．利用 Ｒ/S 类方法计算时延序列的 Hurst 参数， 如图3 所示， 用直线拟合这些数据点， 直线斜率即为 Hurst 参数， 其 H =0． 8117， 显然满足 0． 5 ＜ H ＜ 1， 可知时延序列具有自相似性．图 4 为400 组用于训练时延序列经过 EMD 方法分解后得到 8 个 IMF 分量和一个余量 Ｒ9， 从图中可以看出除了 IMF1、 IMF2、 IMF3 外其余分量均具明显变化并且规律较平稳， 同时也降低了不同特征信息之间的干涉与耦合， 因此 EMD 在一定程度上降低了预测建模难度， 提高了预测精度．图 5 为原始时延序列与 EMD 分解后 IMF1、 IMF2、IMF3(其余分量类似， 文中未给出)的自相关函数的对比， 从图中可以看出原始时延序列自相关函数在很长时间内都没有衰减到 0， 而经过经验模式分解后 3 个IMF 分量的自相关函数很快第一次衰减到 0． 说明经过经验模式分解后各分量呈现短相关性质， EMD 方法减少了时延序列的自相似性， 由于短相关模型的复杂度较长相关模型低， 因此经过 EMD 处理后可降低预测的复杂度．

4 最小二乘支持向量机

为了克服标准 SVM 算法的计算时间长、 计算量大等缺点， Suykens 提出了最小二乘支持向量机算法［20 ］ ，LS- SVM 的损失函数通过利用最小二乘线性系统代替SVM 的二次规划方法， 提高了算法的运算速度， LS-SVM 用如下形式的函数对未知系统进行估计y = w T Φ(x) + b (2)对于给定的训练集{x i ， y i }， i = 1， 2， …， N， 根据风险最小化原理， 回归问题可以表示为如下的约束优化问题minJ(w， e) =12w T w +12γ ∑Ni =1e 2i ， γ ＞ 0(3)y i = w T Φ(x i ) + b + e i (4)其中 γ 为正则化参数， b 为常值偏差， 可通过建立Lagrangian 函数求解上述优化问题L(w， b， e， a) = J(w， e) － ∑Ni =1a i (w T Φ(x i ) + b + e i － y i )(5)其中 a i 是 Lagrangian 乘子， 分别对 w， b， e， a 求取偏微分并化简可得到下式0 l Tl Ω + γ－1 [ ]lb[ ]a=0[ ]y(6)K(x i ， x j )是核函数， 可表示为K(x i ， x j ) = exp －‖xi － x j ‖22σ( )2(7)对于已知的训练集{x i ， x j }， 利用式(6)可求出参数a 与 b， 同时， 当给定实际集合 x 即可结合训练集中的 x i可用如下式(8)来求出系统实际输出 yy = ∑Ni =1a i K(x， x i ) + b (8)由上述建模过程可知， 基于径向基核函数的 LS- SVM 预测性能主要取决于 γ 与 σ2 ， 如何选取合适的参数也是如今一个重要的研究方向， 本文采用 LS- SVM 工具箱中的 grid search 方法确定参数 γ 与 σ2 ．

5 网络时延预测模

型图 6 为本文基于 EMD 与 LS- SVM 的网络控制系统时延预测模型， 输入的原始时延序列经过 EMD 处理后生成 n 个 IMF 分量和一个余量， 利用各个 IMF 与余量作为输入测试集对 LS- SVM 分别进行训练， 计算出每个LS- SVM 模型的最佳参数 γ 与 σ2 ， 当模型建立好后即可对未来时刻时延进行预测， 本文采用未来一步时延预测方法．原始时延序列经过 EMD 处理后的分量可表示成如下的时延序列， N 为序列长度:D =［ d 1 d 2 …d N ］ (9)将序列 D 转化为下面的矩阵形式， 其中 X 为 LS- SVM模型的输入， Y 为输出．式(10)、 (11)相当于将输入的 1 × N 的时延序列转换为(N － m) × m 的矩阵， 而输出为(N － m) × 1 矩阵， 利用当前时刻时延与过去 m 个时刻的时延来预测下一时刻的时延， 其中 m 为嵌入维数． 本文基于 EMD与 LS- SVM 时延预测步骤如下:Step1:对原始时延序列进行 EMD 分解， 得到 n 个IMF 分量与 1 个余量 Ｒ．Step2:将 EMD 分解后的 IMF 分量以及余量按式(10)、 (11)生成输入输出集， 利用 LS- SVM 算法工具箱对 LS- SVM 进行训练， 生成每个 LS- SVM 的参数．Step3:LS- SVM 模型建立好后， 利用式(8)计算各个分量以及余量的下一时刻的时延预测值．Step4:对各个 LS- SVM 预测值组合即可得到最终预测值．Step5:更新时延序列， 将预测的最新时延值放入序列头部， 去掉序列最后一个时延值， 重复 Step3．

为了提高预测的精度， 所有输入数据都经过归一化处理， 输出数据进行反归一化处理．

6 仿真利用测试

得到的 500 组时延数据， 前 400 组用于训练， 后 100 组用于验证． LS- SVM 算法嵌入维数 m =20．表 1 给出了 400 组时延序列经过 EMD 分解后， 每本文采用均方误差(Mean Square Error， MSE)来衡量预测精度， 图 7 为各个 IMF 分量和余量 Ｒ 的 MSE 分布图， 从图中可看出随着各分量阶数的增加， MSE 快速减少， 预测精度变高．图 8 为 EMD 处理后时延序列各个 IMF 分量和余量的100 组预测值与实际值的对比图． 从图中可知除了IMF1 之外其余各分量预测值都比较好的拟合了实际值， 因为随着 IMF 阶数的增加， 序列的随机性减弱， 因此提高了预测的准确性．将各个 IMF 分量和余量 Ｒ 的预测值相叠加即可得到最终的预测值， 图 9 为 100 组时延的预测值与实际值的对比．为了进行预测精度的对比， 图 10 为文献［ 11］ 中未经 EMD 处理直接采用 LS- SVM 预测的时延对比图， 经过交叉验证后的参数 γ =12． 35， σ2=5． 31．图 11 为文献［ 2］ 中提出的基于 AＲ 方法的预测时延与实际时延的对比图， AＲ 方法阶数 p = 9， 采用 LMS方法确定加权系数． 图 12 为文献［ 21］ 中的随机神经网络方法的预测时延与实际时延的对比图， 随机神经网络输入层为 10， 隐层数为 15． 图 13 为与文献［ 22］ 提出混合方法的时延对比， AＲMA 算法参数根据 AIC 准则确定为 p =6， q =3．表 2 给出了本文方法和其他几种方法的预测时延与实际时延的均方误差值的对比．表 3 给出了本文方法和其他几种方法在相同的硬件环境下， 利用 Matlab 2010b 对一步时延进行预测所需要的运算时间的对比． 从表中对比发现本文方法在运算时间和其它方法比较接近， 但是带来预测精度的大幅提升， 同时本文方法的一步时延预测运算时间可满足工业现场实时应用．从图9 ～ 图13 的曲线以及表2 的误差 MSE 对比可知本文方法在预测精度上高于其它方法， 其原因主要是:(1)时延序列经过 EMD 处理后由长相关序列变化为短相关延序列， 突出了各个分量的变化规律， 因此其预测难度与复杂度都降低;(2)文献［ 4］研究已指出基于 AＲ 或者 AＲMA 方法本身对于动态范围变化大的时间序列其预测精度将会降低．

7 结论

针对网络控制系统中的随机时延预测， 本文将经验模式分解与最小二乘支持向量机结合来对时延进行预测， 对原始时延序列经过 EMD 处理后将序列从长相关转变为短相关， 根据各个分量的特征对 LS- SVM 进行训练， 由此提高了 LS- SVM 的预测精度， 同时降低了算法的复杂度． 针对 IMF1 分量预测精度低于其他 IMF 分量的问题， 未来研究工作可参照文献［ 22］ 中的方法， 对IMF1 分量进行多阶差分处理， 由此可进一步提高方法的预测精度．

    参考文献［ 1］李玉清， 方华京， 朱菲． 随机时延网络化控制系统的自适应预测控制［J］ ． 华中科技大学学报(自然科学版)，2009， 37(1):292 －296．Li Yu- qing， Fang Hua- jing， Zhu Fei． Adaptive predictedcontrol of networked control system with random delays［ J］ ． J Huazhong Univ of Sci ＆ Tech(Natural Science Edi-tion)， 2009， 37(1):292 －296． (in Chinese)［ 2］时为国， 邵成， 孙正阳． 基于 AＲ 模型时延预测的改进GPC 网络控制算法［ J］ ． 控制与决策， 2012， 27(3):477 －480．Shi Wei- guo， Shao Cheng， Sun Zheng- yang． Improved GPCnetwork- control algorithm based on AＲ model time- delay prediction［ J］ ． Control and Decision， 2012， 27(3):477 －480． (in Chinese)［ 3］M Yang， J F Ｒu， X Ｒ Li， et al． Predicting internet end- to-end delay:a multiple- model approach［A］ ． Proceedings ofthe IEEE NFCOM［C］ ． Miami， F L， USA:IEEE Press，2005． 3047 －3051．［ 4］宋杨， 涂小敏， 费敏锐． 基于 FAＲIMA 模型的 Internet 时延预测［ J］ ． 仪器仪表学报， 2012， 33(4):757 －763．SONG Yang， TU Xiao- min， FEI Min- rui． Internet time- de-lay prediction based on FAＲIMA model［ J］ ． Chinese Journalof Scientific Instrument， 2012， 33(4):757 －763． (in Chinese)［ 5］H Y Li， H Wang， C Gui． Internet time- delayprediction basedon autoregressive and neural network model［ A］ ．2006 Inter-national Conference on Communications， Circuits and Sys-tems［ C］ ． Guilin， China:IEEE Press， 2006．1758 －1761．［ 6］D Liu， J H Du， Y Zhao， et al． Study on the time- delay ofInternet- based industry process control system［ A］ ． Proc． ofthe Fifth World Conference on Intelligent Control and Auto-mation［ C］ ． Hangzhou， China:IEEE Press， 2002．1376 － 1380．［ 7］B Ｒahmani， A H D Markazi， N Mozayani． Ｒeal time pre-diction of time delays in a networked control system［ A］ ．2008 3rd International Symposium on Communications，Control and Signal Processing［ C］ ． St． Julians， Malta:IEEEPress， 2008． 1242 －1245．［ 8］N Sadeghzaedh， A Afshar， M B Menhaj． An MLP neuralnetwork for time delay prediction in networked control sys-tems［ A］ ． 2008 Chinese Control and Decision Conference［ C］ ． Yangtai， China:IEEE Press， 2008． 5314 －5318．［ 9］曹庆璞， 董淑福， 罗  骞． 网络时延的混沌性分析及预测［ J］ ． 计算机技术与发展， 2010， 20(4):43 －46．Cao Qing- pu， Dong Shu- fu， Luo Yun- qian． Chaotic analysisand prediction of Internet time- delay［ J］ ． Computer Technolo-gy and Development， 2010， 20(4):43 －46． (in Chinese)［ 10］王永骥， 杨业， 吴浩． 基于 SVM 的 Internet 的网络时延分步及预测［ J］ ． 华中科技大学学报， 2006， 34(6):89 －91．Wang Yong- ji， Yang Ye， Wu Hao． The analysis and pre-diction of Internet time- delay based on support vector ma-chines［ J］ ． J． Huazhong Univ of Sci ＆ Tech(Nature Sci-ence Edition)， 2006， 34(6):89 －91． (in Chinese)［ 11］李春茂， 肖建， 张  ． 网络控制系统的时延估计和自适应预测控制［ J］ ． 西南交通大学学报， 2007， 42(2):175 －180．Li Chun- mao， Xiao Jian， Zhang Yue． Time delay estima-tion and adaptive control of networked control systems［J］ ． Journal of Southwest Jiaotong University， 2007， 42(2):175 －180． (in Chinese)［ 12］ T Karagiannis， M Molle， M Faloutsos． Long- range de-pendence:Ten years of internet traffic modeling［J］ ．IEEE Internet Computing， 2004， 8(5):57 －64．［ 13］A Erramilli， M Ｒoughan， D Veitch， et al． Self- similar traf- fic and network dynamics［ J］ ． Proc of the IEEE， 2002， 90(5):800 －819．［ 14］S H Wang， B G Xu， Q Y Wang． Delays analysis for tele-portation over Internet and smith predictor with adaptivetime- delay control［A］ ． Proc of the IEEE InternationalConference on Ｒobotics and Biomimetics［C］ ． Piscat-away， NJ， USA:IEEE Press， 2005． 664 －669．［ 15］X H Fu， X Fu． A predictive algorithm for time delay inter-net network［ A］ ． IEEE International Conference on Elec-tronics， Communications and Control［ C］ ． Ningbo， China:IEEE Press， 2011． 666 －669．［ 16］J P Zhao， X W Gao． Time- delay analysis and estimationof internet- based robot teleoperation system［A］ ． 21stChinese Control and Decision Conference［C］ ． Guilin，China:IEEE Press， 2009． 4643 －4646．［ 17］N E Huang， Z Shen， S Long， et al． The empirical modedecomposition and the Hilbert spectrum for nonlinear andnon- stationary time series analysis［ J］ ． Proceedings of theＲoyal Society of London Series A， 1998， 454:903 －995．［ 18］彭喜元， 王军， 彭宇． 一种新型时间序列多分辨预测模型研究［ J］ ． 电子学报， 2007， 35(11): 2146 －2149．Peng Xi- yuan， Wang Jun， Peng yu． A novel multi- scalepredictor for complex time series［J］ ． Acta ElectronicaSinica， 2007， 35(11):2146 －2149． (in Chinese)［ 19］王军， 彭喜元， 彭宇． 一种新型复杂时间序列实时预测模型研究［ J］ ． 电子学报， 2006， 34(12A):2391 －2394．Wang Jun， Peng Xi- yuan， Peng Yu． A novel real time pre-dictor for complex time series［ J］ ． Acta Electronica Sini-ca， 2006， 34(12A):2391 －2394． (in Chinese)［ 20］J A K Suykens， L Lukas， J Vandewalle． Least squares sup-port vector machine classifiers［ J］ ． Neural processing Let-ters， 1999， 9(3):293 －300．［ 21］胡志国， 张大陆， 侯翠平， 等． 基于随机神经网络的多步网络时延预测模型［ J］ ． 计算机科学， 2009， 36(7):85 －88．Hu Zhi- guo， Zhang Da- lu， Hou Cui- ping， et al． Multi- stepnetwork delay prediction model based on ＲNN［ J］ ． Com-puter Science， 2009， 36(7):85 －88． (in Chinese)［ 22］高波， 张钦宇， 梁永生， 等． 基于 EMD 及 AＲMA 的自相似网络流量预测［ J］ ． 通信学报， 2011， 32(4):47 －56．Gao Bo， Zhang Qin- yu， Liang Yong- sheng， et al． Predic-ting self- similar networking traffic based on EMD andAＲMA［ J］ ． Journal on Communications， 2011， 32(4):47－56． (in Chinese)