关键词： 　 最接近支持向量机；优化样本分布；正则化技术

１　 引言　　 

最 接 近 支 持 向 量 机 Ｐ Ｓ ＶＭ［ １ ］是 支 持 向 量 机Ｓ ＶＭ［ ２～４ ］ 的一 类 变 体 ．与 最 小 二 乘 支 持 向 量 机 （ Ｌ ｅ ａ ｓ ｔＳ ｑ ｕ ａ ｒ ｅ 　Ｓ ｕ ｐ ｐ ｏ ｒ ｔ 　Ｖ ｅ ｃ ｔ ｏ ｒ 　Ｍ ａ ｃ ｈ ｉ ｎ ｅ ， Ｌ Ｓ Ｓ ＶＭ ）［ ５ ］ 类似，Ｐ Ｓ ＶＭ采用等式约束， 具有求解快速的优点 ． 此外， 与 Ｌ Ｓ Ｓ ＶＭ相比， Ｐ Ｓ ＶＭ 将阈值平方纳入到优化目标中， 使优化问题具有更为简洁的表达形式， 有效增强了优化模型的凸性． 由于Ｐ Ｓ ＶＭ 具有模型简单， 求解快速等优点， 得到了相关学者的重视， 在原Ｐ Ｓ ＶＭ 模型基础上， 又提出了多类Ｐ Ｓ ＶＭ［ ６ ， ７ ］ ， 模糊 Ｐ Ｓ ＶＭ ［ ８ ， ９ ］ 等扩展模型和其他改进模型［ １ ０ ， １ １ ］ ， 并在 轴 承、 齿 轮 箱 故 障 诊 断、 人 脸 识 别 等 领域［ １ １～１ ３ ］ 取得了一定的应用成果．模式识别理论指出， 尽管在最小均方误差意义上Ｐ Ｓ ＶＭ 等最小二乘分类器最优逼近 Ｂ ａ ｙ ｅ ｓ分类器， 但并不意味一定能使误分概率极小化［ １ ４ ］ ． 

究其原因， 主要是因为Ｐ Ｓ ＶＭ 的最优分类性能建立在两类样本分布特性相同的假设基础上． 在实际应用中， 这种假设通常并不成立， 甚至在某些应用场合， 还会出现不同类别样本分布差异较大的极端情形 ． 此时， 受大方差类别样本影响，采用Ｐ Ｓ ＶＭ 学习会出现较大偏差， 分类效果退化严重．因此， 要提高实际应用中 Ｐ Ｓ ＶＭ 方法的分类性能， 则必须要消除不同类别样本分布差异对 Ｐ Ｓ ＶＭ 学习的不利影响 ．为此， 本文在 Ｐ Ｓ ＶＭ 具有最优逼近 Ｂ ａ ｙ ｅ ｓ 分类意义的主优化项基础上， 尝试将优化样本分布作为一个优化子项引入， 提出了一种优化分布 Ｐ Ｓ ＶＭ． 该优化分布 Ｐ Ｓ －ＶＭ 通过构造等价广义特征值分解模型， 优化正确、 错误分类样本分布， 有效缓解分布差异带来的决策偏差． 最后， 通过人工数据集、 Ｕ Ｃ Ｉ 数据集上的对比实验， 验证了本优化分布 Ｐ Ｓ ＶＭ 模型的有效性．

２　Ｐ Ｓ ＶＭ 及其等价模型　　 

对二分类问题， 设有 ｌ 维训练样本集｛ （ ｘ ｉ ， ｙ ｉ ） ｜ ｘ ｉ ∈Ｒｌ ×１ ，ｙ ｉ ∈ ｛ ±１ ｝ ｝ １≤ ｉ ≤ Ｎ ， 其 对 应 的 样 本 矩 阵 为 Ｘ （ Ｘ ∈Ｒｌ × Ｎ ） ，Ｐ Ｓ ＶＭ 模型优化准则可写为：ｍ ｉ ｎ１２ （ｗＴ ｗ ＋ｂ２ ）＋ ｃ２ζＴζｓ ． ｔ ． 　 Ｄ （ ＸＴ ｗ ＋ｅ ｂ ） ＋ ζ ＝ ｅ（１ ）其中，ｅ 为全 １ 的 Ｎ 维列向量， 矩阵 Ｄ 为 Ｎ × Ｎ 维对角阵， 且对角元素 Ｄ ｉ ｉ 为第 ｉ 个样本的类别值 ｙ ｉ ．首先对 Ｐ Ｓ ＶＭ 式（ １ ） 进行变形简化， 可得定理 １．　　 定理 １　 令 珘 ｘ ｉ ＝ ｘＴｉ （ ）１ Ｔ ，珟ｗ ＝ ｗＴ（ ）ｂ Ｔ ，ｃ １ ＝１ ／ ｃ ，珟Ｘ （珟Ｘ ∈Ｒ（ ｌ ＋１ ） × Ｎ ） 为新样本｛珘ｘ ｉ ｝ 构成的样本矩阵， 此时 Ｐ Ｓ －ＶＭ 模型等价于正则化最小二乘模型 ｍ ｉ ｎ ｃ１２ 珟ｗＴ 珟ｗ ＋１２珟ＸＴ 珟ｗ － Ｙ ２ ， 其最优解为：珟ｗ ＊＝ （珟Ｘ 珟 ＸＴ ＋ｃ １ Ｉ ）－１ 珟Ｘ Ｙ ．　　 证明 　 将 珟 ｗ ＝ ｗＴ（ ）ｂ Ｔ ，ｃ １ ＝１ ／ ｃ ，珟Ｘ （珟Ｘ ∈Ｒ（ ｌ ＋１ ） × Ｎ ）代入式（１ ） ， 整理可得如下等价模型：ｍ ｉ ｎ 　 ｃ１２珟ｗＴ 珟ｗ ＋ １２ζＴζｓ ． ｔ ． 　 Ｄ 珟 ＸＴ 珟ｗ ＋ ζ ＝ ｅ（２ ）Ｄ 满秩， 因此对任意向量 ｚ， 有Ｄ ｚ ＝０等价于 ｚ ＝０． 因此，式（ ２ ） 等式约束可改为 Ｄ Ｄ 珟ＸＴ 珟ｗ ＋ Ｄ ζ ＝ Ｄ ｅ ．又因 Ｄ Ｄ ＝ Ｉ ， Ｄ ｅ ＝ Ｙ， 令Ｄ ζ ＝ η ， 代入式（ ２ ） 得式（ ３ ） ：ｍ ｉ ｎ 　 ｃ１２珟ｗＴ 珟ｗ ＋ １２ ηＴηｓ ． ｔ ． 　 珟 ＸＴ 珟ｗ ＋ η ＝ Ｙ（３ ）将式（ ３ ） 中等式约束代入主优化式得式（４ ） ：ｍ ｉ ｎ 　 ｃ１２珟ｗＴ 珟ｗ ＋ １２珟ＸＴ 珟ｗ － Ｙ ２（４ ）　　 显然， 式（ ４ ） 就是一个正则化最小二乘优化模型， 正则化项为投影矢量２范数 珟 ｗ Ｔ 珟 ｗ ， 其最优解为 珟 ｗ ＊ ＝ （ 珟 Ｘ 珟 Ｘ Ｔ＋ ｃ １ Ｉ ）－１ 珟Ｘ Ｙ ．证毕 ．下面进一步分析式（ ４ ） ． 首先分析无正则化项基本最小二乘分类模型 ｍ ｉ ｎ 　 Ｘ Ｔ ｗ － Ｙ ２ ， 其最优解为 ｗｏ ｐ ｔ ＝（ Ｘ Ｘ Ｔ ）－１ Ｘ Ｙ ． 分析该模型可得定理２．　定理２　 最小二乘分类模型 ｍ ｉ ｎ ＸＴ ｗ －Ｙ ２与优化式（ ５） 等价．ｍ ａ ｘ ｗＴ Ｘ Ｙ Ｙ Ｔ Ｘ Ｔ ｗｗＴ Ｘ Ｘ Ｔ ｗ（５ ）　　 证明 　 式（ ５ ） 对应于如下拉格朗日优化问题：ｍ ａ ｘ 　 ｗＴ Ｘ Ｙ Ｙ Ｔ Ｘ Ｔ ｗ －λ ｗＴ Ｘ Ｘ Ｔ ｗ其导数 ０ 点满足：Ｘ Ｙ ＹＴ Ｘ Ｔ ｗ ＝λ Ｘ ＸＴ ｗ对任意列向量 ｗ， 令ＹＴ Ｘ Ｔ ｗ ＝ａ ， 则有：ａ Ｘ Ｙ ＝ λ Ｘ ＸＴ ｗ上式求得的最优解 ｗ ＊ ＝ ａλ（ Ｘ Ｘ Ｔ ）－１ Ｘ Ｙ ， 满足 ｗ＊∝ｗ ｏ ｐ ｔ （ ｗ ｏ ｐ ｔ ＝ （ Ｘ ＸＴ ） －１ Ｘ Ｙ ） ， 表明式（ ５ ） 最优解与最小二乘最优解一致 ．进一 步 限 制 ａ ＞０ （ 若 Ｙ Ｔ 　 Ｘ Ｔ 　 ｗ ＊ ＜０ ， 则 取 ｗ ＊ ＝－ ｗ＊ ） ， 因 λ ０ ， 此时 ｗ ＊ 与最小二乘解同向 ．对分类问题， 决策的依据是 ｓ ｇ ｎ （ ｗＴ ｘ ） ， 与 ｗ Ｔ ｘ 值大小无关 ． 因此， 最小二乘分类模型与优化模型（ ５ ） 等价 ．证毕 ．令 Ｘ Ｔ ｗ ＝ Ｚ ， 还可将式（ ５ ） 中的优化式改写为：ｗＴ Ｘ Ｙ Ｙ Ｔ Ｘ Ｔ ｗｗＴ Ｘ Ｘ Ｔ ｗ  ｗＴ Ｘ Ｙ Ｙ Ｔ Ｘ Ｔ ｗｗＴ Ｘ Ｘ Ｔ ｗ Ｙ ＴＹ ＝ （ＺＴＹＺＴ槡 Ｚ 　 ＹＴ槡 Ｙ）（６ ）式（ ６ ） 描述了最小二乘分类的等价数学意义： 对分类问题， 最小二乘等价于向量 Ｚ 、 Ｙ 的最优对齐 ．依据定理２ ， 我们可得到 Ｐ Ｓ ＶＭ 等价正则化最小二乘分类器模型的广义特征值分解模型， 见推论１．　　 推论１　Ｐ Ｓ ＶＭ 分类模型与优化式（ ７） 等价．ｍ ａ ｘ珟ｗＴ 珟Ｘ Ｙ ＹＴ 珟ＸＴ 珟ｗ珟ｗＴ 珟Ｘ 珟 ＸＴ 珟ｗ ＋ ｃ １ 珟 ｗＴ 珟ｗ（７ ）

３　 模型优化样本分布 Ｐ Ｓ ＶＭ　　 

在训练样本集上用 Ｐ Ｓ ＶＭ 学习， 可得到分类器 珟 ｗＴ 珘ｘ＝０． 若 ｓ ｇ ｎ （珟ｗＴ 珘ｘ ｉ ） ＝ ｙ ｉ ， 则样本 珘 ｘ ｉ 被正确分类， 否则被误分 ． 依 分 类 结 果，可 将 样 本 集 划 分 为 正 分 样 本 集珘ｘｉ｛ ｝正分和误分样本集 珘 ｘｉ｛ ｝误分 ． 分类示意图如图１．图１中实心样本为误分样本， 空心样本为正分样本． 误分样本以值 ｄ 误分 ＝ 珟 ｗ Ｔ 珘 ｘ 误分 分布在分类器 珟 ｗ Ｔ 珘 ｘ＝０两边， 正分样本以值 ｄ 正分 ＝ 珟 ｗ Ｔ 珘 ｘ 正分 分布在分类器 珟 ｗ Ｔ 珘 ｘ＝０两边．为改善分类效果， 需优化误、 正分样本分布， 即压缩决策边界两边误分样本所占区域大小， 以减少潜在错误率； 同时使正分样本远离决策边界， 获得大间隔， 提高泛化性．假设随机变量 ｄ 误分 ， ｄ 正分 均满足０均值， 从统计学角度， 要求二阶统计量 ｄ 误分 的方差应尽可能小， 同时要求ｄ 正分 的方差应尽可能大， 可描述为如下优化样本分布模型：ｍ ａ ｘ珟ｗＴ 珟Ｘ 正分 珟 ＸＴ正分 珟 ｗ珟ｗＴ 珟Ｘ 误分 珟 ＸＴ误分 珟 ｗ（８ ）其中 珟Ｘ 正分 ，珟Ｘ 误分 分别为正、 误分样本矩阵 ． 进一步分析式（８ ） ， 可得如下等价模型 ．　定理３优化式（８ ） 与式（ ９） 等价．ｍ ａ ｘ珟ｗＴ 珟Ｘ 正分 珟 ＸＴ正分 珟 ｗ珟ｗＴ 珟Ｘ 珟 ＸＴ 珟ｗ（９ ）其中， 珟Ｘ 为所有样本组成的样本矩阵，珟Ｘ 珟 ＸＴ ＝ 珟Ｘ 正分 珟 ＸＴ正分 ＋珟Ｘ 误分 珟 ＸＴ误分 ．　　 证明 　 式（ ８ ） 是一个广义特征值分解模型， 其最优条件为：珟Ｘ 正分 珟 ＸＴ正分 珟 ｗ ＝ λ珟Ｘ 误分 珟 ＸＴ误分 珟 ｗ（１ ０ ）式（ １ ０） 两边各加 λ 珟 Ｘ 正分 珟 Ｘ Ｔ 正分 珟 ｗ ， 经整理可写为：珟Ｘ 正分 珟 ＸＴ正分 珟 ｗ ＝λ ′珟Ｘ 珟 ＸＴ 珟ｗ（１ １ ）其中λ ′＝λ（１＋ λ ）． 式（１ １ ） 是式（ ９ ） 的最优条件， 这表明优化式（ ８ ） 与式（９） 等价．证毕 ．考虑到实际应用中有可能出现 珟 Ｘ 珟 Ｘ Ｔ 不满秩的情况，式（ ９ ） 也可引入正则化项 ｃ１ 珟 ｗＴ 珟ｗ ：ｍ ａ ｘ珟ｗＴ 珟Ｘ 正分 珟 ＸＴ正分 珟 ｗ珟ｗＴ 珟Ｘ 珟 ＸＴ 珟ｗ ＋ ｃ １ 珟 ｗＴ 珟ｗ（１ ２ ）最终， 综合考虑式（７ ） 和式（ １ ２ ） ， 提出如下优化样本分布 Ｐ Ｓ ＶＭ 模型：ｍ ａ ｘ珟ｗＴ 珟Ｘ Ｙ ＹＴ 珟ＸＴ 珟ｗ ＋ ｃ ２ 珟 ｗＴ 珟Ｘ 正分 珟 ＸＴ正分 珟 ｗ珟ｗＴ 珟Ｘ 珟 ＸＴ 珟ｗ ＋ ｃ １ 珟 ｗＴ 珟ｗ（１ ３ ）其中，ｃ ２ （ ｃ ２ ＞０ ） 为优化样本分布项的正则化系数．在已知当前分类器下正分样本矩阵 珟Ｘ 正分 的前提下，优化样本分布 Ｐ Ｓ ＶＭ 式（ １ ３ ） 是一个典型的广义特征值分解问题， 可取最优投影矢量 珟ｗ＊为最大特征值所对应的特征矢量． 我们通过式（１ ３ ） 优化样本分布， 改善分类算法１表明， 求解优化样本分布Ｐ Ｓ ＶＭ 需在求得原始Ｐ Ｓ ＶＭ 最优解基础上， 再进一步微调优化． 

因此， 优化样本分布Ｐ Ｓ ＶＭ 相对于 Ｐ Ｓ ＶＭ ， 计算复杂度有所增加．下面分析算法 １ 的时间复杂度 ．算法１由三步实现． 设样本矩阵 珟 Ｘ ∈ＲＭ × Ｎ ， 维数Ｍ＝ ｌ ＋１ ， Ｎ 为样本数 ． 第一步求 Ｐ Ｓ ＶＭ 最优解， 其时间代价主要耗费在 珟Ｘ 珟 ＸＴ 计算、 （珟Ｘ 珟 ＸＴ ＋ ｃ１ Ｉ ）－１ 求逆以及（珟Ｘ 珟 ＸＴ＋ ｃ １ Ｉ ）－１ 珟Ｘ 计 算 上， 矩 阵 乘 法 计 算 时 间 复 杂 度 均 为ｏ （ Ｍ２ Ｎ ） ， 矩阵求逆为 ｏ （ Ｍ３ ） ； 第二步求矩阵 珟Ｘ 正分 ， 其时间代价主要耗费在计算一维投影 珟 ｗ Ｔ０ 珟 Ｘ 上， 时间复杂度为ｏ （ Ｍ × Ｎ ） ； 第三步求优化样本分布 Ｐ Ｓ ＶＭ 最优解， 其时间代价主要耗费在 珟Ｘ 正分 珟 ＸＴ正分 计算以及模型式（ １ ３ ） 的广义特征值分解计算上， 设正分样本数为 Ｎ ＋ （ Ｎ ＋ ＜ Ｎ ） ，前者时间复杂度为 ｏ （ Ｍ２ Ｎ ＋ ） ， 后者为 ｏ （ Ｍ３ ）．以上时间复杂度分析表明， 为改善 Ｐ Ｓ ＶＭ 分类效果， 优化样本分布 Ｐ Ｓ ＶＭ 的时间复杂度有所增加 ． 但从指数大小层面看， 优化样本分布 Ｐ Ｓ ＶＭ 仍属时间复杂度为 ｏ （ Ｍ ３ ） 的算法， 与原始 Ｐ Ｓ ＶＭ 相同 ．

４　 优化样本分布 Ｋ ｅ ｒ ｎ ｅ ｌ 　Ｐ Ｓ ＶＭ　　 

优化样本分布 Ｋ ｅ ｒ ｎ ｅ ｌ 　Ｐ Ｓ ＶＭ （ Ｋ Ｐ Ｓ ＶＭ ） 是优化样本分布Ｐ Ｓ ＶＭ 的非线性版本． 通过核映射  ， 原始样本 ｘｉ被映射为  （ ｘｉ ） ． 令核样本 珘  （ ｘ ｉ ） ＝  （ ｘ ｉ ）Ｔ（ ）１ Ｔ ， 投影矢量 珟ｗ ＝珟ｗＴ（ ）ｂ Ｔ ， 此时优化样本分布Ｋ Ｐ Ｓ ＶＭ 对应的优化准则为：ｍ ａ ｘ珟ｗＴ 珘 （ Ｘ ） Ｙ ＹＴ 珘 （ Ｘ ）Ｔ 珟ｗ ＋ ｃ ２ 珟 ｗＴ 珘 （ Ｘ ） 正分 珘  （ Ｘ ）Ｔ正分 珟 ｗ珟ｗＴ 珘 （ Ｘ ）珘 （ Ｘ ）Ｔ 珟ｗ ＋ ｃ １ 珟 ｗＴ 珟ｗ（１ ４ ）其中， 珘 （ Ｘ ） 为核空间中的样本矩阵，珘 （ Ｘ ） 正分 为核空间中被分类器正确分类的样本所组成的样本矩阵 ．进一步， 我们采用式（１ ５ ） 将无穷维隐式核空间中的优化问题转换到有限维核内积空间中求解［ １ ５ ］ ：珟ｗ ＝ 珘  （ Ｘ ） α（１ ５ ）　　 将式（ １ ５ ） 代入到优化式（ １ ４ ） 中， 同时类似 Ｐ Ｓ ＶＭ 将分母项中的 ｃ１ 珟 ｗＴ 珟ｗ 直接置换为 ｃ １ αＴα ， 整理可得：ｍ ａ ｘ αＴ 珟Ｋ Ｙ ＹＴ 珟Ｋ α ＋ ｃ ２ αＴ 珟Ｋ 正分 珟 ＫＴ正分 ααＴ 珟Ｋ 珟 Ｋ α ＋ ｃ １ αＴα（１ ６ ）其中， 珟Ｋ ＝ 珘  （ Ｘ ）Ｔ 珘 （ Ｘ ） ，珟Ｋ 正分 ＝ 珘  （ Ｘ ）Ｔ 珘 （ Ｘ ） 正分 ．需要指出的是， 原始 Ｋ Ｐ Ｓ ＶＭ 采 用 的 转 换 式 与 式（１ ５ ） 不同， 为 ｗ ＝  （ Ｘ ） Ｄ α［ １ ］ ．总之， 通过核内积映射技巧， 无穷维隐式核空间中的优化问题被转换到维数为训练样本数 Ｎ 的核内积空间进行计算 ． 此时采用算法１步骤， 求解优化样本分布Ｋ Ｐ Ｓ ＶＭ ， 其时间复杂度变为 ｏ （ Ｎ３ ） ， 而基于二次规划的Ｓ ＶＭ 时间复杂度要更高一些， 为 ｏ （ Ｎ ３． ５ ）［ １ ６ ］ ．

５　 实验结果与分析

５ ． １　 人工数据集实验我们构造人工数据集以测试优化样本分布 Ｐ Ｓ ＶＭ分类效果 ． 首先， 我们随机生成两类样本各 １ ０ ０ 个（ 前 ５ ０个用于训练， 后 ５ ０ 个用于测试） ， 一类样本服从均值列向量为 －０．（ ）５ 　０ Ｔ ， 协 方 差 矩 阵 为１ 　０（ ） ０ １的 高 斯 分布； 另一类样本服从均值列向量为 （）３ ０ 　０ Ｔ ， 协方差矩阵为２ ０ 　０（ ） ０ ４ ０的高斯分布 ． 分别采用线性 Ｐ Ｓ ＶＭ 和优化样本分布线性 Ｐ Ｓ ＶＭ 对上述样本进行分类训练和测试， 其中线性 Ｐ Ｓ ＶＭ 的正则化系数 ｃ １ 取 ｃ １＝１ ０－７ ， 优化样本分布线性 Ｐ Ｓ ＶＭ 的正则化系数 ｃ 取 ｃ ＝１ ０ ０ ０ ， ｃ１取ｃ １＝１ ０－７ ． 实验重复５ ０次， 某次分类训练和测试结果如图 ２ 所示 ．从图 ２ 可以看出， 由于两类样本分布存在显著差异， 此时， Ｐ Ｓ ＶＭ 分类边界受大方差类别样本干扰， 出现明显偏差； 而优化样本分布 Ｐ Ｓ ＶＭ 分类边界相对更优 ．优化样本分布Ｐ Ｓ ＶＭ 和 Ｐ Ｓ ＶＭ ５ ０次分类测试的平均正确率分别为９ ４ ． ９ ％ ， ８ ９ ． ３ ％ ， 优化样本分布 Ｐ Ｓ ＶＭ 明显优于Ｐ Ｓ ＶＭ．进一步， 我们减小大方差类别样本的分布尺度， 改为服从均值列向量为 （）３ 　０ Ｔ ， 协方差矩阵为２ 　０（ ） ０ ４的高斯分布； 实验重复 ５ ０ 次， 某次分类结果如图 ３ 所示 ．从图３可以看出， 由于两类样本分布差异相对而言不如上一组实验显著， 此时， Ｐ Ｓ ＶＭ 分类边界无明显偏差． 优化样本分布 Ｐ Ｓ ＶＭ 和 Ｐ Ｓ ＶＭ ５ ０次分类测试的平均正确率分别为９ ０ ． ５ ％ ， ９ ０ ． ３ ％ ， 优化样本分布 Ｐ Ｓ ＶＭ分类效果无明显改善．

５ ． ２　Ｕ Ｃ Ｉ 数据集

实验进一步， 我们采用 Ｕ Ｃ Ｉ 数据集［ １ ７ ］ 来测试算法的分类效果． 使用６个２分类 Ｕ Ｃ Ｉ数据子集： Ｂ ｕ ｐ ａ （６维／３ ４ ５个样本） 、 Ｄ ｉ ａ ｂ ｅ ｔ ｅ ｓ （８维／ ７ ６ ８个样本） 、Ｍ ｏ ｎ ｋ １ （６维／４ ３ ２个样本） 、 Ｍ ｏ ｎ ｋ ２ （６维／ ４ ３ ２个样本） 、Ｍ ｏ ｎ ｋ ３ （６维／ ４ ３ ２个样本） 、 Ｓ ｏ ｎ ａ ｒ （６ ０维／２ ０ ８个样本） 和４个多分类数据子集： Ｇ ｌ ａ ｓ ｓ （９维／ ６类别／２ １ ４个样本） 、 ｃ ｍ ｃ （９维／ ３类别／１ ４ ７ ３ 个样本） 、 ｔ ａ ｅ （ ５ 维／ ３ 类别／ １ ５ １ 个样本） 、 ｖ ｅ ｈ ｉ ｃ ｌ ｅ （ １ ８维／ ４ 类别／８ ４ ６ 个样本） ， 分别测试线性、 高斯核 Ｓ ＶＭ， 线性、 高斯核 Ｌ Ｓ Ｓ ＶＭ ， 线性、 高斯核 Ｐ Ｓ ＶＭ ， 优化样本分布线性、 高斯核 Ｐ Ｓ ＶＭ． 其中， Ｓ ＶＭ 采用 Ｓ ｔ ｅ ｖ ｅ 　Ｇ ｕ ｎ ｎ 开源Ｓ ＶＭ　ＭＡ Ｔ Ｌ Ａ Ｂ工具箱， 其余三种分类器自编．分类器可调参数取值范围设定为： 高斯核参数 σ ＝２－７ ～２ １ ０ ，Ｌ Ｓ Ｓ ＶＭ 、 Ｐ Ｓ ＶＭ 参数 ｃ ＝２－１ ２ ～２ １ ２ ， 优化样本分布 Ｐ Ｓ ＶＭ 参数 ｃ１ ＝２－１ ０ ，ｃ ２ ＝２－４ ～２ １ ５ ．对后四个多类别数据子集使用 ｏ ｎ ｅ － ｖ ｅ ｒ ｓ ｕ ｓ － ｒ ｅ ｓ ｔ 方式实现多分类 ． 实验采用１ ０重交叉验证方式， 结果见表１．在实验中， 优化样本分布Ｐ Ｓ ＶＭ 与其他三种分类器相比， 尤其在高斯核非线性分类情形下， 取得了相对更好的分类结果． 这说明优化样本分布Ｐ Ｓ ＶＭ 通过压缩误分样本所占区域， 同时使正分样本远离分类边界， 能够改善决策偏差， 从而进一步提高了分类正确率．进一步， 我们对各分类器的训练耗时进行了实验比较 ． 分类器运行硬件平台为 Ｃ Ｐ Ｕ 　Ｉ ７ 　６ ４ ０Ｍ２ ． ８ ＧＨ ｚ ， 内存４ Ｇ Ｂ ； 软件平台为 Ｗ Ｉ Ｎ Ｄ ＯＷＳ 　７ ， ＭＡ Ｔ Ｌ Ａ Ｂ 　Ｒ ２ ０ ０ ８． 以下是 １ ０次训练平均耗时， 见表２．从表２可以看出， 在线性、 高斯核非线性分类两种情形下， Ｓ ＶＭ 平均耗时最大． 特别在线性分类情形下，由于Ｓ ＶＭ 实际工作在与训练样本数相等的 Ｎ维线性内积空间， 远大于原始样本维数， 此时 Ｓ ＶＭ 训练平均耗时显著大于其他三类分类器 ． 而优化样本分布 Ｐ Ｓ ＶＭ 相比于 Ｌ Ｓ Ｓ ＶＭ 和 Ｐ Ｓ ＶＭ ， 其平均耗时有所增加， 但远小于Ｓ ＶＭ 平均耗时．

６　 总结　　 

本文在最小二乘类分类器 Ｐ Ｓ ＶＭ 基础上， 通过引入优化样本分布正则化项对原始 Ｐ Ｓ ＶＭ 决策面进行调整，提出了一种改进 Ｐ Ｓ ＶＭ 分类模型 ． 人工数据集和部分Ｕ Ｃ Ｉ 数据子集上的对比实验表明， 该改进模型能够有效改善正分样本和误分样本分布， 进一步提高了分类正确率， 证明了将优化样本分布引入 Ｐ Ｓ ＶＭ 的有效性． 进一步， 考虑到实际应用中的小样本问题， 此时样本分布统计量估计受野值干扰较大． 为此， 我们下一步将研究提高样本分布统计分析鲁棒性方法， 以提高实际应用中优化样本分布估计的稳定性和有效性．

参考文献［ １ ］ Ｆ ｕ ｎｇ 　 Ｇ ， Ｍ ａ ｎ ｇａ ｓ ａ ｒ ｉ ａ ｎ 　Ｏ 　Ｌ． Ｐ ｒ ｏ ｘ ｉ ｍ ａ ｌ 　ｓ ｕ ｐ ｐ ｏ ｒ ｔ 　ｖ ｅ ｃ ｔ ｏ ｒ 　ｍ ａｈ ｉ ｎ ｅ 　ｃ ｌ ａ ｓ ｓ ｉ ｆ ｉ ｅ ｒ ［ Ａ ］ ． Ｐ ｒ ｏ ｃ 　ｏ ｆ 　ｔ ｈ ｅ 　７ ｔ ｈ 　Ａ ＣＭ 　Ｓ Ｉ ＧＫＤＤ 　Ｉ ｎ ｔ ｅ ｒ －ｎ ａ ｔ ｉ ｏ ｎ ａ ｌ 　Ｃ ｏ ｆ ｅ ｒ ｅ ｎ ｃ ｅ 　ｏ ｎ 　Ｋ ｎ ｏ ｗ ｌ ｅ ｄ ｅ ｇ 　 Ｄ ｉ ｓ ｃ ｏ ｖ ｅ ｒｙ ａ ｎ ｄ 　Ｄ ａ ｔ ａＭ ｉ ｎ ｉ ｎ ｇ ［ Ｃ ］ ． Ｓ ａ ｎ 　Ｆ ｒ ａ ｎ ｃ ｉ ｓ ｃ ｏ ： Ａ ＣＭ ， ２ ０ ０ １． ７ ７－８ ２．［ ２ ］ Ｖ ａｐ ｎ ｉ ｋ 　Ｖ　Ｎ． Ｔ ｈ ｅ 　Ｎ ａ ｔ ｕ ｒ ｅ 　ｏ ｆ 　Ｓ ｔ ａ ｔ ｉ ｓ ｔ ｉ ｃ ａ ｌ 　Ｌ ｅ ａ ｒ ｎ ｉ ｎ ｇ 　 Ｔ ｈ ｅ ｏ ｒ ｙ［ Ｍ ］ ． Ｓ ｅ ｃ ｏ ｎ ｄ 　Ｅ ｄ ｉ ｔ ｉ ｏ ｎ． Ｎ ｅ ｗ　Ｙ ｏ ｒ ｋ ： Ｓｐ ｒ ｉ ｎ ｇ ｅ ｒ 　Ｐ ｒ ｅ ｓ ｓ ， ２ ０ ０ ０．［ ３ ］王国胜， 钟义信 ． 支持向量机的若干新进展［ Ｊ ］ ． 电子学报，２ ０ ０ １ ， ２ ９ （ １ ０ ） ： １ ３ ９ ７－１ ４ ０ ０．Ｗ ａ ｎ ｇ 　 Ｇ ｕ ｏ ｓ ｈ ｅ ｎ ｇ ， Ｚ ｈ ｏ ｎ ｇ 　ｙ ｉ ｘ ｉ ｎ． Ｓ ｏ ｍ ｅ ｎ ｅ ｗ 　ｄ ｅ ｖ ｅ ｌ ｏ ｐ ｍ ｅ ｎ ｔ ｓ 　ｏ ｎｓ ｕ ｐ ｐ ｏ ｒ ｔ 　ｖ ｅ ｃ ｔ ｏ ｒ 　ｍ ａ ｃ ｈ ｉ ｎ ｅ ［ Ｊ ］ ．Ａ ｃ ｔ ａ 　Ｅ ｌ ｅ ｃ ｔ ｒ ｏ ｎ ｉ ｃ ａ 　Ｓ ｉ ｎ ｉ ｃ ａ ，２ ０ ０ １ ， ２ ９ （ １ ０ ） ： １ ３ ９ ７－１ ４ ０ ０． （ ｉ ｎ 　Ｃ ｈ ｉ ｎ ｅ ｓ ｅ ）［ ４ ］方景龙， 陈铄， 潘志庚， 梁荣华 ． 复杂分类问题支持向量机的简化［ Ｊ ］ ． 电子学报，２ ０ ０ ７ ， ３ ５ （ ５ ） ： ８ ５ ８－８ ６ １．Ｆ ＡＮＧ 　Ｊ ｉ ｎ ｇ ｌ ｏ ｎ ｇ ， ＣＨ Ｅ Ｎ 　Ｓ ｈ ｕ ｏ ， Ｐ ＡＮ　Ｚ ｈ ｉ ｇ ｅ ｎ ｇ ， Ｌ Ｉ ＡＮＧＲ ｏ ｎ ｇ ｈ ｕ ａ ． Ｓ ｉ ｍ ｐ ｌ ｉ ｆ ｉ ｃ ａ ｔ ｉ ｏ ｎ 　ｔ ｏ 　ｓ ｕ ｐ ｐ ｏ ｒ ｔ 　ｖ ｅ ｃ ｔ ｏ ｒ 　ｍ ａ ｃ ｈ ｉ ｎ ｅ 　ｆ ｏ ｒｃ ｏ ｍ ｐ ｌ ｉ ｃ ａ ｔ ｅ ｄ 　ｒ ｅ ｃ ｏ ｇ ｎ ｉ ｔ ｉ ｏ ｎ 　ｐ ｒ ｏ ｂ ｌ ｅ ｍ ［ Ｊ ］ ． Ａ ｃ ｔ ａ 　Ｅ ｌ ｅ ｃ ｔ ｒ ｏ ｎ ｉ ｃ ａＳ ｉ ｎ ｉ ｃ ａ ， ２ ０ ０ ７ ， ３ ５ （ ５ ） ： ８ ５ ８－８ ６ １． （ ｉ ｎ 　Ｃ ｈ ｉ ｎ ｅ ｓ ｅ［ ５ ］ Ｓ ｕｙ ｋ ｅ ｎ ｓ 　Ｊ 　Ａ　Ｋ ， Ｖ ａ ｎ ｄ ｅ ｗ ａ ｌ ｌ ｅ 　Ｊ ． Ｌ ｅ ａ ｓ ｔ 　ｓ ｑ ｕ ａ ｒ ｅ 　ｓ ｕ ｐ ｐ ｏ ｒ ｔ 　ｖ ｅ ｃ ｔ ｏ ｒｍ ａ ｃ ｈ ｉ ｎ ｅ 　ｃ ｌ ａ ｓ ｓ ｉ ｆ ｉ ｅ ｒ ［ Ｊ ］ ． Ｎ ｅ ｕ ｒ ａ ｌ 　Ｐ ｒ ｏ ｃ ｅ ｓ ｓ ｉ ｎ ｇ 　 Ｌ ｅ ｔ ｔ ｅ ｒ ｓ ， １ ９ ９ ９ ， ９（ ３ ） ：２ ９ ３－３ ０ ０．［ ６ ］杨绪兵， 陈松灿． 基于原型超平面的多类最接近支持向量机［ Ｊ ］ ． 计算机研究与发展，２ ０ ０ ６ ， ４ ３ （ １ ０ ） ： １ ７ ０ ０－１ ７ ０ ５．Ｙ ａ ｎ ｇ 　 Ｘ ｕ ｂ ｉ ｎ ｇ ， Ｃ ｈ ｅ ｎ 　Ｓ ｏ ｎ ｇ ｃ ａ ｎ． Ｐ ｒ ｏ ｘ ｉ ｍ ａ ｌ 　ｓ ｕ ｐ ｐ ｏ ｒ ｔ 　ｖ ｅ ｃ ｔ ｏ ｒｍ ａ ｃ ｈ ｉ ｎ ｅ 　ｂ ａ ｓ ｅ ｄ 　ｏ ｎ 　ｐ ｒ ｏ ｔ ｏ ｔ ｙ ｐ ａ ｌ 　ｍ ｕ ｌ ｔ ｉ ｃ ｌ ａ ｓ ｓ ｉ ｆ ｉ ｃ ａ ｔ ｉ ｏ ｎ 　ｈ ｙ ｐｅ ｒ －ｐ ｌ ａ ｎ ｅ ｓ ［ Ｊ ］ ． Ｊ ｏ ｕ ｒ ｎ ａ ｌ 　ｏ ｆ 　Ｃ ｏ ｍ ｐ ｕ ｔ ｅ ｒ 　Ｒ ｅ ｓ ｅ ａ ｒ ｃ ｈ 　ａ ｎ ｄ 　Ｄ ｅ ｖ ｅ ｌ ｏ ｐ －ｍ ｅ ｎ ｔ ， ２ ０ ０ ６ ， ４ ３ （ １ ０ ） ： １ ７ ０ ０－１ ７ ０ ５． （ ｉ ｎ 　Ｃ ｈ ｉ ｎ ｅ ｓ ｅ ）［ ７ ］ Ｎ ｉ ｕ 　Ｌ ｉ ｎｇ ｆ ｅ ｎ ｇ ． Ｐ ａ ｒ ａ ｌ ｌ ｅ ｌ 　ａ ｌ ｇ ｏ ｒ ｉ ｔ ｈ ｍ 　ｆ ｏ ｒ 　ｔ ｒ ａ ｉ ｎ ｉ ｎ ｇ 　 ｍ ｕ ｌ ｔ ｉ ｃ ｌ ａ ｓ ｓｐ ｒ ｏ ｘ ｉ ｍ ａ ｌ 　Ｓ ｕ ｐ ｐ ｏ ｒ ｔ 　Ｖ ｅ ｃ ｔ ｏ ｒ 　Ｍ ａ ｃ ｈ ｉ ｎ ｅ ｓ ［ Ｊ ］ ． Ａ ｐ ｐ ｌ ｉ ｅ ｄ 　Ｍ ａ ｔ ｈ ｅ －ｍ ａ ｔ ｉ ｃ ｓ 　ａ ｎ ｄ 　Ｃ ｏ ｍ ｐ ｕ ｔ ａ ｔ ｉ ｏ ｎ ， ２ ０ １ １ ， ２ １ ７ （ １ ２ ） ： ５ ３ ２ ８－５ ３ ３ ７．［ ８ ］ Ｊ ａｙ ａ ｄ ｅ ｖ ａ 　Ｋ　Ｒ ， Ｃ ｈ ａ ｎ ｄ ｒ ａ 　Ｓ ． Ｆ ｕ ｚ ｚｙ 　 ｌ ｉ ｎ ｅ ａ ｒ 　ｐｒ ｏ ｘ ｉ ｍ ａ ｌ 　ｓ ｕ ｐ ｐ ｏ ｒ ｔｖ ｅ ｃ ｔ ｏ ｒ 　ｍ ａ ｃ ｈ ｉ ｎ ｅ ｓ 　ｆ ｏ ｒ 　ｍ ｕ ｌ ｔ ｉ － ｃ ａ ｔ ｅ ｇ ｏ ｒｙ ｄ ａ ｔ ａ 　ｃ ｌ ａ ｓ ｓ ｉ ｆ ｉ ｃ ａ ｔ ｉ ｏ ｎ ［ Ｊ ］ ．Ｎ ｅ ｕ ｒ ｏ ｃ ｏ ｍ ｐ ｕ ｔ ｉ ｎ ｇ ， ２ ０ ０ ５ ， ６ ７ （ ８ ） ： ４ ２ ６－４ ３ ５．［ ９ ］ Ｙ ａ ｎｇ 　 Ｘ ｕ ｂ ｉ ｎ ｇ ，Ｃ ｈ ｅ ｎ 　Ｓ ｏ ｎ ｇ ｃ ａ ｎ ， Ｃ ｈ ｅ ｎ 　Ｂ ｉ ｎ ， ｅ ｔ 　ａ ｌ ． Ｐ ｒ ｏ ｘ ｉ ｍ ａ ｌｓ ｕ ｐ ｐ ｏ ｒ ｔ 　ｖ ｅ ｃ ｔ ｏ ｒ 　ｍ ａ ｃ ｈ ｉ ｎ ｅ 　ｕ ｓ ｉ ｎｇ ｌ ｏ ｃ ａ ｌ 　ｉ ｎ ｆ ｏ ｒ ｍ ａ ｔ ｉ ｏ ｎ ［ Ｊ ］ ． Ｎ ｅ ｕ －ｒ ｏ ｃ ｏ ｍ ｐ ｕ ｔ ｉ ｎ ｇ ， ２ ０ ０ ９ ， ７ ３ （ １－３ ） ： ３ ５ ７－３ ６ ５．［ １ ０ ］ Ｒ ｅ ｓ ｈ ｍ ａ 　Ｋ ， Ｊ ａｙ ａ ｄ ｅ ｖ ａ ， Ｓ ｕ ｒ ｅ ｓ ｈ 　Ｃ． Ｋ ｎ ｏ ｗ ｌ ｅ ｄ ｇ ｅ 　ｂ ａ ｓ ｅ ｄ 　ｐ ｒ ｏ ｘ ｉ －ｍ ａ ｌ 　ｓ ｕ ｐ ｐ ｏ ｒ ｔ 　ｖ ｅ ｃ ｔ ｏ ｒ 　ｍ ａ ｃ ｈ ｉ ｎ ｅ ｓ ［ Ｊ ］ ． Ｅ ｕ ｒ ｏ ｐ ｅ ａ ｎ 　Ｊ ｏ ｕ ｒ ｎ ａ ｌ 　ｏ ｆＯ ｐ ｅ ｒ ａ ｔ ｉ ｏ ｎ ａ ｌ 　Ｒ ｅ ｓ ｅ ａ ｒ ｃ ｈ ， ２ ０ ０ ９ ， １ ９ ５ （ ３ ） ： ９ １ ４－９ ２ ３．［ １ １ ］ Ｒ ｅ ｓ ｈ ｍ ａ 　Ｋ ， Ａ ｎ ｕｊ Ｋ ， Ｓ ｕ ｒ ｅ ｓ ｈ 　Ｃ． Ｇ ｅ ｎ ｅ ｒ ａ ｌ ｉ ｚ ｅ ｄ 　ｅ ｉ ｇ ｅ ｎ ｖ ａ ｌ ｕ ｅｐ ｒ ｏ ｘ ｉ ｍ ａ ｌ 　ｓ ｕ ｐ ｐ ｏ ｒ ｔ 　ｖ ｅ ｃ ｔ ｏ ｒ 　ｒ ｅ ｇ ｒ ｅ ｓ ｓ ｏ ｒ ［ Ｊ ］ ． Ｅ ｘ ｐ ｅ ｒ ｔ 　Ｓ ｙ ｓ ｔ ｅ ｍ ｓｗ ｉ ｔ ｈ 　Ａ ｐ ｐ ｌ ｉ ｃ ａ ｔ ｉ ｏ ｎ ｓ ， ２ ０ １ １ ， ３ ８ （ １ ０ ） ： １ ３ １ ３ ６－１ ３ １ ４ ２．［ １ ２ ］ Ｓ ｕｇ ｕ ｍ ａ ｒ ａ ｎ 　Ｖ ， Ｍ ｕ ｒ ａ ｌ ｉ ｄ ｈ ａ ｒ ａ ｎ 　Ｖ ， Ｒ ａ ｍ ａ ｃ ｈ ａ ｎ ｄ ｒ ａ ｎ 　Ｋ 　Ｉ ． Ｆ ｅ ａ －ｔ ｕ ｒ ｅ 　ｓ ｅ ｌ ｅ ｃ ｔ ｉ ｏ ｎ 　ｕ ｓ ｉ ｎｇ ｄ ｅ ｃ ｉ ｓ ｉ ｏ ｎ 　ｔ ｒ ｅ ｅ 　ａ ｎ ｄ 　ｃ ｌ ａ ｓ ｓ ｉ ｆ ｉ ｃ ａ ｔ ｉ ｏ ｎｔ ｈ ｒ ｏ ｕ ｇｈ 　ｐｒ ｏ ｘ ｉ ｍ ａ ｌ 　ｓ ｕ ｐ ｐ ｏ ｒ ｔ 　ｖ ｅ ｃ ｔ ｏ ｒ 　ｍ ａ ｃ ｈ ｉ ｎ ｅ 　ｆ ｏ ｒ 　ｆ ａ ｕ ｌ ｔ 　ｄ ｉ ａ ｇ －ｎ ｏ ｓ ｔ ｉ ｃ ｓ 　ｏ ｆ 　ｒ ｏ ｌ ｌ ｅ ｒ 　ｂ ｅ ａ ｒ ｉ ｎ ｇ ［ Ｊ ］ ． Ｍ ｅ ｃ ｈ ａ ｎ ｉ ｃ ａ ｌ 　Ｓ ｙ ｓ ｔ ｅ ｍ ｓ 　ａ ｎ ｄ 　Ｓ ｉ ｇ －ｎ ａ ｌ 　Ｐ ｒ ｏ ｃ ｅ ｓ ｓ ｉ ｎ ｇ ， ２ ０ ０ ７ ， ２ １ （ ２ ） ： ９ ３ ０－９ ４ ２．［ １ ３ ］ Ｓ ａ ｒ ａ ｖ ａ ｎ ａ ｎ 　Ｎ ， Ｋ ｕ ｍ ａ ｒ 　Ｖ　Ｎ 　Ｓ ， Ｒ ａ ｍ ａ ｃ ｈ ａ ｎ ｄ ｒ ａ ｎ 　Ｋ 　Ｉ ． Ｆ ａ ｕ ｌ ｔｄ ｉ ａ ｇ ｎ ｏ ｓ ｉ ｓ 　ｏ ｆ 　ｓ ｐ ｕ ｒ 　ｂ ｅ ｖ ｅ ｌ 　ｇ ｅ ａ ｒ 　ｂ ｏ ｘ 　ｕ ｓ ｉ ｎｇ ａ ｒ ｔ ｉ ｆ ｉ ｃ ｉ ａ ｌ 　ｎ ｅ ｕ ｒ ａ ｌｎ ｅ ｔ ｗ ｏ ｒ ｋ （ ＡＮＮ ） ，ａ ｎ ｄ 　ｐｒ ｏ ｘ ｉ ｍ ａ ｌ 　ｓ ｕ ｐ ｐ ｏ ｒ ｔ 　ｖ ｅ ｃ ｔ ｏ ｒ 　ｍ ａ ｃ ｈ ｉ ｎ ｅ（ Ｐ Ｓ ＶＭ ） ［ Ｊ ］ ． Ａ ｐ ｐ ｌ ｉ ｅ ｄ 　Ｓ ｏ ｆ ｔ 　Ｃ ｏ ｍ ｐ ｕ ｔ ｉ ｎｇ ， ２ ０ １ ０ ， １ ０ （ １ ） ： ３ ４ ４－３ ６ ０．［ １ ４ ］ Ｄ ｕ ｄ ａ 　Ｒ　Ｏ ， Ｈ ａ ｒ ｔ 　Ｐ 　Ｅ ， Ｓ ｔ ｏ ｒ ｋ 　Ｄ　Ｇ． Ｐ ａ ｔ ｔ ｅ ｒ ｎ 　Ｃ ｌ ａ ｓ ｓ ｉ ｆ ｉ ｃ ａ ｔ ｉ ｏ ｎ［ Ｍ ］ ． Ｓ ｅ ｃ ｏ ｎ ｄ 　Ｅ ｄ ｉ ｔ ｉ ｏ ｎ． Ｎ ｅ ｗ　Ｙ ｏ ｒ ｋ ： Ｗ ｉ ｌ ｅｙ － Ｉ ｎ ｔ ｅ ｒ ｓ ｃ ｉ ｅ ｎ ｃ ｅ ，２ ０ ０ ０． ２ ３ ９－２ ４ ５．［ １ ５ ］ Ｓ ｃ ｈ  ｌ ｋ ｏｐ ｆ 　Ｂ ， Ｍ ｉ ｋ ａ 　Ｓ ， ｅ ｔ 　ａ ｌ ． Ｉ ｎ ｐ ｕ ｔ 　ｓ ｐ ａ ｃ ｅ 　ｖ ｅ ｒ ｓ ｕ ｓ 　ｆ ｅ ａ ｔ ｕ ｒ ｅｓ ｐ ａ ｃ ｅ 　ｉ ｎ 　ｋ ｅ ｒ ｎ ｅ ｌ 　ｂ ａ ｓ ｅ ｄ 　ｍ ｅ ｔ ｈ ｏ ｄ ｓ ［ Ｊ ］ ． Ｉ Ｅ Ｅ Ｅ 　Ｔ ｒ ａ ｎ ｓ ａ ｃ ｔ ｉ ｏ ｎ ｓ 　ｏ ｎＮ ｅ ｕ ｒ ａ ｌ 　Ｎ ｅ ｔ ｗ ｏ ｒ ｋ ｓ ， １ ９ ９ ９ ， １ ０ （ ５ ） ： １ ０ ０ ０－１ ０ １ ７．［ １ ６ ］ Ｍ ａ ｎｇ ａ ｓ ａ ｒ ｉ ａ ｎ 　Ｏ 　Ｌ ， Ｗ ｉ ｌ ｄ 　Ｅ　Ｗ． Ｍ ｕ ｌ ｔ ｉ ｓ ｕ ｒ ｆ ａ ｃ ｅ 　ｐ ｒ ｏ ｘ ｉ ｍ ａ ｌ 　ｓ ｕ ｐ －ｐ ｏ ｒ ｔ 　ｖ ｅ ｃ ｔ ｏ ｒ 　ｍ ａ ｃ ｈ ｉ ｎ ｅ 　ｃ ｌ ａ ｓ ｓ ｉ ｆ ｉ ｃ ａ ｔ ｉ ｏ ｎ 　ｖ ｉ ａ 　ｇ ｅ ｎ ｅ ｒ ａ ｌ ｉ ｚ ｅ ｄ 　ｅ ｉ ｇ ｅ ｎ －ｖ ａ ｌ ｕ ｅ ｓ ［ Ｊ ］ ． Ｉ Ｅ Ｅ Ｅ 　Ｔ ｒ ａ ｎ ｓ ａ ｃ ｔ ｉ ｏ ｎ ｓ 　ｏ ｎ 　Ｐ ａ ｔ ｔ ｅ ｒ ｎ 　Ａ ｎ ａ ｌ ｙ ｓ ｉ ｓ 　ａ ｎ ｄＭ ａ ｃ ｈ ｉ ｎ ｅ 　Ｉ ｎ ｔ ｅ ｌ ｌ ｉ ｇ ｅ ｎ ｃ ｅ ， ２ ０ ０ ６ ， ２ ８ （ １ ） ： ６ ９－７ ４．［ １ ７ ］ Ｍ ｕ ｒｐ ｈ ｙ 　 Ｐ　Ｍ ， Ａ ｈ ａ 　Ｄ　Ｗ． ＵＣ Ｉ 　ｍ ａ ｃ ｈ ｉ ｎ ｅ 　ｌ ｅ ａ ｒ ｎ ｉ ｎ ｇ ｒ ｅ ｐ ｏ ｓ ｉ ｔ ｏ －ｒ ｙ ［ Ｏ Ｌ ］ ． ｈ ｔ ｔ ｐ ： ／ ／ ｗ ｗ ｗ． ｉ ｃ ｓ ． ｕ ｃ ｉ ． ｅ ｄ ｕ ／ ～ｍ ｌ ｅ ａ ｒ ｎ ／ ＭＬ Ｒ ｅ ｐ ｏ ｓ －ｉ ｔ ｏ ｒ ｙ ． ｈ ｔ ｍ ｌ ， １ ９ ９ ２．