关键词 　 特征学习； 层次稀疏表示； 图像显著性； 图像分类； 显著性最大值汇聚

    图像分类是计算机视觉和人工智能领域中重要且应用广泛的研究方向之一， 如在目标识别 ［１ ］ 、 物体检测 ［２ ］ 、 地理图像分析 ［ ３ ］ 以及场景识别 ［ ４ ］ 等方面都有应用． 其研究目标是根据图像中所具有的某种属性将其划分到预先定义的不同类别中． 由于在图像内容中包含着大量复杂且难以描述的信息， 要使得计算机能够像人类一样容易进行分类还是有很大困难的．图像表示是图像分类的基础， 为了更好地表征图像， 实现计算机自动分类， 对图像提取一个好的特征描述至关重要． 由于图像数据是一个高维的信号，其在不同的尺度、 视图、 光照条件和场景下变化非常剧烈． 如何提取一个鲁棒的特征描述来应对这些变化是一个困难且重要的研究方向． 

    目前图像分类比较有代表性的方法就是采用手工指定的局部特征，如Ｓ Ｉ Ｆ Ｔ ，ＨＯ Ｇ等， 然后应用词包模型（ｂ ａ ｇ － ｏ ｆ － ｗ ｏ ｒ ｄ ｓ，Ｂ ＯＷ ）［ ５ ］ 来形成对图像的全局描述． 传统的词包模型由４部分构成： 局部特征提取、 视觉码本构建、 特征编码（ 或称向量量化） 和特征统计． 该模型将图像视为一系列无序的局部特征的集合， 并量化表示成离散的视觉单词， 然后统计出整幅图像中所有视觉单词的频率直方图描述， 作为最终的图像表示．在传统的词包模型中， 由于视觉单词具有一定的判别性和代表性， 使其具有较好的鲁棒性， 并对噪声的干扰具有一定的抑制作用． 但该模型并没有考虑到图像中局部特征之间的空间位置关系， 这明显制约了其描述能力． 为了解决这一问题， Ｌ ａ ｚ ｅ ｂ ｎ ｉ ｋ等人 ［６ ］ 借鉴金字塔匹配核的思想， 提出了空间金字塔匹配模型（ｓ ｐ ａ ｔ ｉ ａ ｌ 　ｐ ｙ ｒ ａ ｍ ｉ ｄ 　ｍ ａ ｔ ｃ ｈ ｉ ｎ ｇ ， Ｓ ＰＭ ） ， 改善了词包模型的这一缺点， 大大提升了词包模型的描述能力 ．除了对图像空间位置信息的考虑外， 在词包模型中最为重要的部分— — —特征量化编码— — —对分类性能也有着重要影响， 但也存在着一些不足 ． 在特征量化编码中， 传统的词包模型使用了基于最近邻匹配的硬向量量化， 即将每一个局部特征投影到一个视觉单词上． 

    但是当一个局部特征与多个视觉单词具有相似性时会产生较大的量化误差． 因此， Ｇ ｅ ｍ ｅ ｒ ｔ等人 ［４ ］ 提出了采用软量化（ｓ ｏ ｆ ｔ 　ａ ｓ ｓ ｉ ｇ ｎ ｍ ｅ ｎ ｔ ） 的编码思想来解决这一问题， 即将待量化的局部特征表示成 Ｋ 个近邻字典的自适应加权线性组合． 随着稀疏表达理论在视觉领域的广泛应用， Ｙ ａ ｎ ｇ 等人 ［７ ］ 又提出了用稀疏编码（ｓ ｐ ａ ｒ ｓ ｅ 　ｃ ｏ ｄ ｉ ｎ ｇ ） 代替软量化编码以及Ｗ ａ ｎ ｇ 等人［ ８ ］ 提出的局部线性编码（ｌ ｏ ｃ ａ ｌ ｉ ｔ ｙ 　 ｃ ｏ ｎ ｓ ｔ ｒ ａ ｉ ｎ ｔｌ ｉ ｎ ｅ ａ ｒ 　ｃ ｏ ｄ ｉ ｎ ｇ ， Ｌ Ｌ Ｃ ） 模型等． 相比于硬向量量化， 这些方法能够显著地减少量化误差．虽然局部特征结合单层稀疏编码模型的引入将词包模型的性能提升到一个全新的高度， 但该模型仍然有进一步提升的潜力．

    由于单层的稀疏编码在很大程度上依赖于手工设计的底层特征， 而手工设计特征非常困难， 费时而且需要启发式， 能否选取好的特征在很大程度上是依靠经验和运气． 因此余凯等人 ［９ ］ 提出了直接从图像像素学习到任务相关的特征描述的层次稀疏编码（ｈ ｉ ｅ ｒ ａ ｒ ｃ ｈ ｉ ｃ ａ ｌ 　ｓ ｐ ａ ｒ ｓ ｅ 　ｃ ｏ ｄ ｉ ｎ ｇ ，Ｈ Ｓ Ｃ ） 方法， 其获得的性能可以与基于手工特征的单层稀疏编码相媲美．近年来， 基于层次化特征学习的深度学习模型在计算机视觉、 语音识别和自然语言处理等方面都得到了广泛的应用， 也获得不错的性能．深度学习模型的基本思想就是通过构建具有多个层次的学习模型来学习到更有用的特征表示， 从而来提升分类或预测的准确性． 其主要有２个优点：首先， 不需要手工设计特征， 它是自动直接从数据中提取特征； 其次， 实验表明这种层次模型更能够提取到图像中最本质的特征表示 ［１ ０ ］ ．从信息理论角度来说， 一幅图像中的信息包含先验信息和新颖信息（ 即变化信息） 两个部分 ［１ １ ］ ．人类的视觉对变化信息更为敏感， 可以通过图像的显著图有效地提取图像中的变化信息并摒除冗余信息 ［３ ］ ．图像的稀疏表示一般都是通过一组超完备的字典来计算得到． 正因为使用了超完备字典， 使得图像稀疏表示不可避免地对一些噪声和变化敏感（ 如平移或旋转） ． 为了尽量减少这些因素的影响， 特征汇聚函数（ｐ ｏ ｏ ｌ ｉ ｎ ｇ 　 ｆ ｕ ｎ ｃ ｔ ｉ ｏ ｎ ） 可以用来描述图像在局部区域的稀疏编码的统计特征 ． 同时， 我们发现在图像的表示中， 图像中不相关的部分如背景、 非目标物体， 在特征表示中都有很大的稀疏系数表示， 从而使稀疏表示中包含更多非本质的视觉信息． 视觉显著性模拟了生物视觉的注意机制， 图像中最鲜明的特征一定是图像中最显著的区域 ［３ ］ ．

    图像的显著性区域在一定程度上可以有效地使目标在图像背景中更加突出． 因此本文提出在特征汇聚阶段加入图像显著性信息， 使图像特征表达更加具有判别性．Ｆ ｉ ｇ ． １　Ｈ ｉ ｅ ｒ ａ ｒ ｃ ｈ ｉ ｃ ａ ｌ 　ｆ ｅ ａ ｔ ｕ ｒ ｅ 　ｌ ｅ ａ ｒ ｎ ｉ ｎ ｇ ．图１层次特征学习框架受到最近的深度学习模型以及图像所具有的视觉显著性方面的启发， 本文提出了一种融合图像显著性的层次稀疏特征表示， 该表示的每一层由３个主要模块组成： 稀疏编码、 显著性最大值汇聚（ｓ ａ ｌ ｉ ｅ ｎ ｃ ｙｍ ａ ｘ 　ｐ ｏ ｏ ｌ ｉ ｎ ｇ ） 和对比度归一化． 这种层次特征学习模型能够更好地提取到图像最显著的特征表达且对自然图像具有普遍适用性， 可以有效地提高自然图像的分类性能． 通过将该模型应用于分类任务中， 在Ｃ ａ ｌ ｔ ｅ ｃ ｈ 　１ ０ １［ １ ２ ］ ，Ｃ ａ ｌ ｔ ｅ ｃ ｈ 　２ ５ ６［ １ ３ ］ 标准图像数据集上进行实验． 实验结果表明： 结合图像显著性的层次稀疏表示方法的分类准确率与其他方法相比有更进一步的提升．

    １  相关工作

    近年来， 很多关于视觉识别的工作中都集中使用无监督学习和有监督学习相结合的层次结构来学习图像丰富的特征描述． 其中稀疏编码一直以来都是一个很受欢迎的图像建模方法． 在基于 Ｓ Ｉ Ｆ Ｔ 局部特征或原始图像块上进行稀疏编码进而用于人脸识别、 图像分割和一般的目标识别都有着很好的表现． 随着深度学习的兴起， 基于层次结构的特征学习方法 也 有 很 大 进 展， 如 Ｈ Ｓ Ｃ［ ９ ］ 、 层 次 匹 配 追 踪（ｈ ｉ ｅ ｒ ａ ｒ ｃ ｈ ｉ ｃ ａ ｌ 　ｍ ａ ｔ ｃ ｈ ｉ ｎ ｇ 　ｐ ｕ ｒ ｓ ｕ ｉ ｔ ， ＨＭＰ ）［ １ ４ ］ 、 深度信念网络（ｄ ｅ ｅ ｐ ｂ ｅ ｌ ｉ ｅ ｆ 　ｎ ｅ ｔ ｗ ｏ ｒ ｋ ｓ ， Ｄ Ｂ Ｎ ）［ １ ５ ］ ， 深度卷积网络（ｄ ｅ ｅ ｐ ｃ ｏ ｎ ｖ ｏ ｌ ｕ ｔ ｉ ｏ ｎ ａ ｌ 　ｎ ｅ ｔ ｗ ｏ ｒ ｋ ｓ ， Ｄ Ｃ Ｎ ）［ １ ６ ］等．深度学习方法也有监督学习与无监督学习之分 ． 不同的学习框架下建立的学习模型是不同的 ． 一类是 Ｈ ｉ ｎ ｔ ｏ ｎ等人 ［１ ５ ］ 首次提出的Ｄ Ｂ Ｎ ， 采用逐层无监督训练限制性玻尔兹曼机（ Ｒ ＢＭ ） 来逐层学习得到图像的层次特征表达． 为了处理大尺寸的图像数据， Ｌ ｅ ｅ等人 ［１ ７ ］ 提出了卷积深度信念网络（ｃ ｏ ｎ ｖ ｏ ｌ ｕ －ｔ ｉ ｏ ｎ ａ ｌ 　ｄ ｅ ｅ ｐ 　 ｂ ｅ ｌ ｉ ｅ ｆ 　ｎ ｅ ｔ ｗ ｏ ｒ ｋ ｓ， Ｃ Ｄ Ｂ Ｎ ） ， 在隐层和可见层之间加入了局部接受域和共享权值． 但是这类深度结构的生成模型的训练一直都是一个很难有效解决的问题． 另一类深度模型是通过定义一组编码器和解码器， 以重构误差为限制来形成对数据的特征描述． 如 Ｌ ｅ等人 ［１ ８ ］ 使用深度自动编码机（ｄ ｅ ｅ ｐａ ｕ ｔ ｏ ｅ ｎ ｃ ｏ ｄ ｅ ｒ ， Ｄ Ａ Ｅ ） 从大量无标签图像数据中建立一个高层的特征检测子， 如人脸和猫脸检测子． 还有一类如 Ｋ ｒ ｉ ｚ ｈ ｅ ｖ ｓ ｋ ｙ 等人［ １ ６ ］ 提出的深度卷积神经网络 （ｄ ｅ ｅ ｐ ｃ ｏ ｎ ｖ ｏ ｌ ｕ ｔ ｉ ｏ ｎ ａ ｌ 　ｎ ｅ ｕ ｒ ａ ｌ 　ｎ ｅ ｔ ｗ ｏ ｒ ｋ ｓ ） ， 其 在Ｉ ｍ ａ ｇ ｅ Ｎ ｅ ｔ ２ ０ １ ２上取得了非常显著的效果， 并证明了该模型在大数据图像集上的潜力．图像显著性作为图像中重要的视觉特征信息，体现了人眼对图像的某些区域的重视程度． 为了将这种显著性信息引入特征表达中， 我们可以在编码阶段有效地引入这部分信息． 对此 Ｙ ａ ｎ ｇ 等人［ １ ９ ］ 提出 的 Ｈ Ｓ Ｓ Ｌ （ ｈ ｉ ｅ ｒ ａ ｒ ｃ ｈ ｉ ｃ ａ ｌ ， ｓ ｐ ａ ｒ ｓ ｉ ｔ ｙ ， ｓ ａ ｌ ｉ ｅ ｎ ｃ ｙ ａ ｎ ｄｌ ｏ ｃ ａ ｌ ｉ ｔ ｙ ） 结构就是通过结合图像显著性和层次特征学习模型来学习得到图像稀疏性、 显著性和局部性的特征描述． 本文在此基础上进行了一些改进：１） 提出使用批正交匹配追踪（ｂ ａ ｔ ｃ ｈ 　ｏ ｒ ｔ ｈ ｏ ｇ ｏ ｎ ａ ｌ 　ｍ ａ ｔ ｃ ｈ ｉ ｎ ｇｐ ｕ ｒ ｓ ｕ ｉ ｔ ， Ｂ ＯＭＰ ） 来有效提升模型的编码效率；２ ） 对特征汇聚后的编码进行对比度归一化操作， 有效地减少特征编码对噪声的影响．

    ２　 融合图像显著性的层次特征

学习本文采用的层次特征学习框架如图１所示． 在每一层中主要由３个模块组成： 稀疏编码（ｓ ｐ ａ ｒ ｓ ｅｃ ｏ ｄ ｉ ｎ ｇ ） 、 显著性最大值汇聚（ｓ ａ ｌ ｉ ｅ ｎ ｃ ｙ 　 ｍ ａ ｘ 　ｐ ｏ ｏ ｌ ｉ ｎ ｇ ）和对比度归一化（ｃ ｏ ｎ ｔ ｒ ａ ｓ ｔ 　ｎ ｏ ｒ ｍ ａ ｌ ｉ ｚ ａ ｔ ｉ ｏ ｎ ） ．下面分别介绍其中最主要的几个方面．

    ２． １　 字典学习稀疏编码的核心思想就是通过学习一个字典，使得数据能够用一组稀疏的、 线性的组合来更好地逼近．Ａ ｈ ａ ｒ ｏ ｎ等人 ［２ ０ ］ 提出的 Ｋ－ Ｓ Ｖ Ｄ 算法是一种简单且有效的字典学习算法． 给定一组 ｈ 维的观测值Ｙ ＝ ［ ｙ １ ， …， ｙ ｎ ］ ∈Ｒｈ × ｎ （ 在本文中指代图像块） ， 通过Ｋ － Ｓ Ｖ Ｄ算法学习得到一个字典 Ｄ ＝ ［ ｄ １ ， …， ｄ ｍ ］ ∈Ｒｈ × ｍ （ 其中 ｄｉ 为一个字典元素） 和一个稀疏编码矩阵 Ｘ ＝ ［ ｘ １ ， …， ｘｎ ］ ∈Ｒｍ × ｎ ， 其目标是最小化式（１ ） 这个重构误差：ｍ ｉ ｎＤ ， ＸＹ － Ｄ Ｘ ２Ｆ 　ｓ ． ｔ ．  ｉ ， ｘ ｉ 　０ ≤ Ｋ ，（１ ）其中， 符号 •Ｆ 表示 Ｆ ｒ ｏ ｂ ｅ ｎ ｉ ｕ ｓ范数； ｘ ｉ 表示 Ｘ 的第 ｉ 列；• ０ 表示０范数， 用于统计稀疏编码 ｘｉ 中的非零元素个数； Ｋ 表示稀疏程度， 用于限定稀疏编码中非零元素的个数．式（１ ） 是一个优化问题， 可以通过交替优化的方式来求解． 即将式（１ ） 分解为如下的２个阶段进行问题求解．第１阶段． 先固定字典 Ｄ 后就变成求解稀疏表示 Ｘ 的问题， 式（ １ ） 就可以解耦成以下 ｎ 个简单的子问题形式：ｍ ｉ ｎｘｉｙ ｉ － Ｄ ｘ ｉ２Ｆ 　ｓ ． ｔ ． ｘ ｉ 　０ ≤ Ｋ ．（２ ）由于式（２ ） 是一个非凸优化问题， 可以近似地采用 正 交 匹 配 寻 踪 （ ｏ ｒ ｔ ｈ ｏ ｇ ｏ ｎ ａ ｌ 　ｍ ａ ｔ ｃ ｈ ｉ ｎ ｇ 　ｐ ｕ ｒ ｓ ｕ ｉ ｔ ，ＯＭＰ ）［ ２ １ ］ 来求解（ 这部分将在２． ２节讨论）．第２ 阶 段． 通 过 奇 异 值 分 解 （ ｓ ｉ ｎ ｇ ｕ ｌ ａ ｒ 　ｖ ａ ｌ ｕ ｅｄ ｅ ｃ ｏ ｍ ｐ ｏ ｓ ｉ ｔ ｉ ｏ ｎ ， Ｓ Ｖ Ｄ ） 对字典 Ｄ 与其相关的稀疏系数进行同时更新． 对于给定 ｋ ， 式（ １ ） 可以重写为Ｙ － Ｄ Ｘ ２Ｆ ＝ Ｙ － ∑ｊ ≠ ｋｄ ｊ ｘｋ － ｄ ｋ ｘｋ２Ｆ ＝Ｅ ｋ － ｄ ｋ ｘｋ２Ｆ ，（３ ）其中，ｘｊ 表示 Ｘ的第 ｊ 行； Ｅ ｋ 是第 ｋ 个残余矩阵 ． 最优的 ｄｊ 和 ｘｋ 就可以通过对矩阵 Ｅ ｋ 进行奇异值分解来获得 ． 当稀疏程度 Ｋ 设置为１时， 其对应的稀疏编码矩阵就变成０ ? １的二元矩阵， Ｋ － Ｓ Ｖ Ｄ就完全变成 Ｋ － ｍ ｅ ａ ｎ ｓ 算法 ．

    ２． ２　 正交匹配寻踪编码受到人类视觉皮层神经元响应的稀疏性启发，Ｏ ｌ ｓ ｈ ａ ｕ ｓ ｅ ｎ 等人［ ２ ２ ］ 提出用稀疏表示对自然图像进行更为有效的表达 ． 当字典 Ｄ 学习完成后， 我们就可以用学习到的字典 Ｄ 对所有图像进行稀疏表示， 即对式（２ ） 进行优化求解 ． 在本文中我们使用正交匹配寻踪算法来进行求解． 由于我们要对大量的图像块用同样的字典进行稀疏编码， 所以为了提高效率，我们使用了文献［２ ３ ］ 中的Ｂ ＯＭＰ算法来进行求解．使用基于批正交匹配寻踪的编码方法相比于文献［１ ９ ］ 中的方法在编码效率上有显著的提升． 其算法描述如下：算法１． Ｂ ＯＭＰ算法 ［２ ３ ］ ．输入：字典 Ｄ 、 观测值 Ｙ 以及稀疏程度 Ｋ ；输出：稀疏编码 Ｘ ， 满足 Ｙ ≈ Ｄ Ｘ ；初始化： Ｉ＝ ， α０ ＝ Ｄ Ｔｙ ， Ｇ ＝ ＤＴ Ｄ ，Ｘ ＝０．① Ｆ ｏ ｒ 　 ｋ ＝１ ： Ｋ② 　 选择新的过滤项： ｋ－＝ａ ｒ ｇ 　 ｍ ａ ｘｋ｜ α ｋ ｜ ；③ 　 Ｉ ＝ Ｉ ∪ ｋ－；④ 　 更新稀疏编码项： ｘ Ｉ ＝ Ｇ－１Ｉ Ｉ α０Ｉ （ 其中 Ｇ Ｉ Ｉ 是矩阵 Ｇ 以 Ｉ 为行下标、 以 Ｉ 为列下标的子矩阵）⑤ 　 更新 α ： α ＝ α０ － ＧＩ ｘ Ｉ ；⑥ Ｅ ｎ ｄ

    ２． ３　 显著性加权最大值汇聚图像经过稀疏编码的特征表示后， 我们再通过特征汇聚函数来描述图像在局部区域的稀疏编码的统计特征． 在许多文献中提到的几个汇聚函数（ 如平均值、 熵和最大值） 中， 最大值汇聚被证明是最具有稳健的统计特征的 ［７ ］ ． 结合图像的显著性图， 我们使用一个显著性加权最大值汇聚函数（ｓ ａ ｌ ｉ ｅ ｎ ｃ ｙ － ｗ ｅ ｉ ｇ ｈ ｔ ｅ ｄｍ ａ ｘ 　ｐ ｏ ｏ ｌ ｉ ｎ ｇ ） 来指导汇聚． 通过图像的显著性图加权调整汇聚函数向着目标可能出现的区域发展． 通过使用自底向上的显著性信息来指导汇聚， 就可以得到对图像更好的稀疏特征表示．本文采取基于文献［２ ］ 中的方法提取图像的显著图， 图２所示为Ｃ ａ ｌ ｔ ｅ ｃ ｈ 　１ ０ １中的几个显著图实例．显著图加权最大值汇聚的具体步骤如下：首先， 我们将图像基于分组网格划分成 Ｍ 个不相交的子窗口 Ωｌ ＝ ∪Ｍｍ ＝１Δ ｍ ， 相应地， 该图像的稀疏编码被分成 Ｍ 个子集｛ ｘｌΔ ｍ ｝ ｍ ＝１ ， ２ ， …， Ｍ ． 同时为了加入图像空间位置信息， 该分区操作可以在不同尺度 ｌ 上进行． 在本文中我们在不同的子窗口 Δ ｍ 中使用最大值汇聚函数 ［１ ２ ］ ． 在空间尺度 ｌ 上最大值汇聚函数（ ｍ ａ ｘ 　ｐ ｏ ｏ ｌ ｉ ｎ ｇ ｆ ｕ ｎ ｃ ｔ ｉ ｏ ｎ ） 定义为Ｆ （ ｘｌΔ ） ＝ ［ ｍ ａ ｘｊ ∈ ｌ ｜ｘｊΔ １ ｜ ， …， ｍ ａ ｘｊ ∈ ｌ ｜ｘｊΔ ｍ ｜ ］ ，（４ ）其中，｜ • ｜ 表示逐点取绝对值．然后， 我们在图像区域 Ωｌ上计算图像显著性图ｗｌ ， 由此基于显著性加权的最大值汇聚函数表示如下：Ｐ （ ｘｌΔ ） ＝ｍ ａ ｘ （ ｜ ｘｌΔ ｍ ｜． ｗｌ ）．（５ ）Ｆ ｉ ｇ ． ４　Ｓ ａ ｌ ｉ ｅ ｎ ｃ ｙ 　 ｍ ａ ｐ 　 ａ ｐ ｐ ｌ ｙ 　 ｔ ｏ 　ｉ ｍ ａ ｇ ｅ ｓ ．图４图像显著性加权应用于图像编码汇聚对于每一个汇聚区域， 我们计算其汇聚稀疏编码 Ｚｌｍ ＝ Ｐ （ ｘｌΔ ｍ ） ． 最后通过将不同尺度上的特征级联起来 形 成 全 局 特 征 描 述： Ｆ （ Ｐ ） ＝ ［Ｆ （ Ｐ１１ ） ， …，Ｆ （ ＰＶ １１） ， …，Ｆ （ ＰＶ ｌｌ） ］ ， 其中 Ｖ ｌ 表示在尺度 ｌ 上的区域个数． 如图３ （ ｂ ） 展示了在图像区域中的显著性加权最大值汇聚过程． 其中红色标记的区域代表图像显著性部分， 尽管在这些区域稀疏编码不是最大的，但可以通过显著性加权汇聚提升这部分的稀疏编码为了更直观地描述显著性加权最大值汇聚在特征选取阶段所起的作用， 我们选取一张带复杂背景的蝴蝶图像， 由于背景中所含与目标不相关的信息较多， 会导致编码信息有所偏差， 而通过显著性最大值汇聚可以有效地提升目标在图像中的判别地位，剔除不相关的背景信息， 如图４所示：

    ２． ４　 对比度归一化在自然图像中， 由于受到光照和前后背景对比度局部变化的影响， 图像稀疏编码的大小变化范围非常广． 因此对稀疏表示采取有效的对比度归一化操作可以有助于提升识别性能． 在本文中我们测试比较了两种正则化方案：Ｌ １ 正则化和 Ｌ ２ 正则化， 通过实验表明 Ｌ ２ 正则化比 Ｌ １ 正则化的效果好． 对于图像稀疏表示 Ｐ ， Ｌ ２ 正则化的形式如下：Ｆ （ Ｐ ） ＝Ｆ （ Ｐ ）Ｆ （ Ｐ ） ２ ＋ 槡 ε， （６ ）其中，ε 是一个很小的正数． 通过实验比较不同的 ε值， 我们发现在第１层中最好的 ε 值是０ ． １．

    ２． ５　 构建层次学习模型与深度学习模型思想一致， 我们的模型第２层的输入建立在第１层的输出之上． 整个模型的训练以一种贪婪的、 逐层的方式完成： 一旦底层训练完成， 其输出就作为下一层的输入． 以同样的方式可以叠加多层以构成层次特征提取． 与一般的层次模型相同， 我们不能确定该层次模型的最佳叠加层数， 但通过实验比较发现该层次模型的最优层次是两层．第１层： 通过预处理得到１ ４ １×１ ４ １维图像． 我们从训练样本的每一幅图像中随机提取２ ０ ０个６×６大小的图像块， 训练一个７ ５大小的字典， 稀疏系数 Ｋ 设置为５． 字典训练完成后， 对每一幅图像使用Ｂ ＯＭＰ算法计算得到１ ３ ６×１ ３ ６的７ ５维特征图，然后在４×４不重叠的区域进行最大值汇聚， 得到３ ４×３ ４的７ ５维特征图． 这里要注意的是， 我们在这一层并没有使用显著图加权， 原因是由于图像划分区域非常小， 使得显著性信息不能够显著地影响汇聚过程．第２层： 我们从第１层中随机选取１ ０万个特征训练含有１ ０ ０ ０个大小的字典． 稀疏系数 Ｋ 设置为１ ０． 这样我们就可以得到３ ４×３ ４个１ 　０ ０ ０维特征向量． 下一步我们就采用文献［２ ］ 中的方法计算３ ４×３ ４大小的显著图． 在显著图上分别进行１×１ ， ２×２和４×４尺度空间上的最大值汇聚， 最后进行对比度归一化操作， 级联形成图像的最终描述． 整体流程图如图５所示：

    ３　 实验设计与结果分

析为了验证本文提出模型的有效性， 我们在２个常用的标准图像数据集上进行实验验证： Ｃ ａ ｌ ｔ ｅ ｃ ｈ１ ０ １ 和 Ｃ ａ ｌ ｔ ｅ ｃ ｈ 　２ ５ ６．实验所用计 算机配 置： Ｉ ｎ ｔ ｅ ｌ?Ｘ ｅ ｏ ｎ?处 理器，８Ｇ Ｂ内存． 实验所运行的软件环境是在 Ｗ ｉ ｎ ｄ ｏ ｗ ｓ 　７操作 系 统 下 安 装 的 Ｍ ａ ｔ ｌ ａ ｂ 　Ｒ ２ ０ １ ３ ａ ． 分 类 器 采 用台湾大学林智仁博士等人 ［２ ４ ］ 开发的 Ｓ ＶＭ 软件包Ｌ Ｉ Ｂ Ｌ Ｉ Ｎ Ｅ ＡＲ．

    ３． １　Ｃ ａ ｌ ｔ ｅ ｃ ｈ 　１ ０ １Ｃ ａ ｌ ｔ ｅ ｃ ｈ 　１ ０ １数据集中总共有９ 　１ ４ ４张图像， 有动物、 花、 车辆等共１ ０ １个类别和１个背景类， 每类都有３ １～８ ０ ０张图像， 且大多数图像都在３ ０ ０×３ ０ ０像素大小左右． 依据文献［２ ５ ］ 的标准实验设置， 我们在每类中选取３ ０张图像作为训练图像， 剩余的作为测试图像．我们采用文献［６ ］ 中的设置对Ｃ ａ ｌ ｔ ｅ ｃ ｈ 　１ ０ １中的图像进行预处理． 首先将输入图像都归一化到［０ ， １ ］之间， 并将每一幅图像转换为灰度图像． 为了减少运算量， 在保持图像纵横比不变的条件下， 采用双三次插值使图像大小最大不超过１ ４ ９像素． 然后将每幅图像在９×９的领域内进行局部归一化． 最后对每一幅图像进行０填充至１ ４ １×１ ４ １像素大小． 在后面实验中， 我们将使用同样的操作预处理图像． 各层的实验参数设置如２． ５节所述．通过多组实验， 我们将本文方法与最新的一些方法进行了比较， 如表１所示：由于本文侧重于图像的特征学习， 所以为了使模型对比实验更具有说服力， 本文中所比较的方法都是基于Ｓ ＶＭ 分类器． 从表１可看出， 本文方法明显优于其他一些深度学习方法： 如 Ｃ Ｄ Ｂ Ｎ［ １ ７ ］ 、 去卷积网络（ｄ ｅ ｃ ｏ ｎ ｖ ｏ ｌ ｕ ｔ ｉ ｏ ｎ ａ ｌ 　ｎ ｅ ｔ ｗ ｏ ｒ ｋ ｓ ， Ｄ Ｎ ）［ ２ ６ ］ 、Ｈ Ｓ Ｃ［ ９ ］以及 ＨＭＰ［ １ ４ ］ ． 相比于基于局部特征的单层稀疏编码， 如软编码（ｓ ｏ ｆ ｔ 　ｔ ｈ ｒ ｅ ｓ ｈ ｏ ｌ ｄ 　ｃ ｏ ｄ ｉ ｎ ｇ ， Ｓ Ｉ Ｆ Ｔ＋Ｔ ）［ ２ ７ ］ 、Ｌ Ｌ Ｃ［ ８ ］ 等， 本文方法也有显著优势． 同时我们还比较了一些具有代表性的核方法， 如Ｓ ＰＭ［ ６ ］ 以及梯度核描述子（ Ｋ Ｄ Ｅ Ｓ － Ｇ ）［ ２ ８ ］ ， 也显示出了我们方法的巨大优势．

    ３． ２　Ｃ ａ ｌ ｔ ｅ ｃ ｈ 　２ ５ ６为了进一步评估本文方法对图像类数目和每个类中的图像数量的可扩展性， 我们在Ｃ ａ ｌ ｔ ｅ ｃ ｈ 　２ ５ ６上进行了实验． Ｃ ａ ｌ ｔ ｅ ｃ ｈ 　２ ５ ６数据集中总共有３ ０ 　６ ０ ７张图像， 包含２ ５ ６个类别和一个背景类． 每一个类中至少有８ ０张图像． 相比于 Ｃ ａ ｌ ｔ ｅ ｃ ｈ 　１ ０ １数据集， Ｃ ａ ｌ ｔ ｅ ｃ ｈ２ ５ ６具有更多的类别， 更多不同的光照、 姿势、 背景和目标大小等因素的影响， 对算法提出了进一步的挑战． 依据文献［７ ］ 的设置， 我们的训练集从每类取１ ５张图像逐渐增加到６ ０张， 其余的作为测试集． 其他结构参数设置与Ｃ ａ ｌ ｔ ｅ ｃ ｈ 　１ ０ １实验中一样， 唯一的区别就是在第２层中训练了２ 　 ０ ０ ０个大小的字典， 以适应更多的类别和图像． 表２是各算法在 Ｃ ａ ｌ ｔ ｅ ｃ ｈ 　２ ５ ６上的实验比较结果．从表２可以看出， 本文方法在类别数目和数量增加的情况下仍然具有很好的性能， 相比于之前的一些实验结果有了较大的提升． 比如在每类１ ５个样本的情况下与 Ｃ Ｒ ＢＭ 方法相比有了近３． ６％的提升， 但是随着训练样本增加到６ ０个， 之间的差距拉到近６． ４％． 这表明：１ ） 对于拥有大量图像类和数量的大规模的分类任务来说， 丰富的特征描述是非常重要的；２ ） 本文方法能够提取到图像中有效的特征表示．

    ３． ３　 影响因素分析为了对本文模型提供一个全面的分析， 下面将从图像块大小、 字典大小、 显著性加权最大值汇聚以及对比度归一化等几个方面来评估模型的有效性．

    ３． ３． １　 图像块大小图像经过划分后形成的图像块中包含着图像的结构信息， 对图像特征提取有着重要的影响， 因此选取多大的图像块是我们需要考虑的问题． 通过对比实验发现第１层图像块取６×６大小时， 识别准确率最高， 能达到７ ９． ８％ ， 因此我们在后续实验中图像块大小固定为６×６． 图６所示为 Ｃ ａ ｌ ｔ ｅ ｃ ｈ 　１ ０ １在不同图像块大小下的平均准确率：

    ３． ３． ２　 字典大小从直观上来理解， 如果字典个数太少， 会导致字典的编码能力减弱， 从而造成对图像的描述能力减弱， 反之， 如果字典个数过多， 又会产生过多的冗余信息， 使得同一类的图像都难以匹配． 因此， 选取合适的一个字典大小来描述图像至关重要． 在我们的实验中， 第１层中选取了７ ５大小的字典， 正如图７所示， 第１层字典大小在７ ５附近能够达到最优的平均准确率， 因此本文在两个 Ｃ ａ ｌ ｔ ｅ ｃ ｈ实验中第１层均采用７ ５大小的字典．

    ３． ３． ３　 显著性加权最大值汇聚一般的最大值汇聚（ ｍ ａ ｘ 　ｐ ｏ ｏ ｌ ｉ ｎ ｇ ） 方法由于对局部空间变化有着更强的鲁棒性 ［７ ］ ， 使其在许多模型中被使用， 且取得了不错的效果， 但相比于采用显著性加权的最大化汇聚， 通过在 Ｃ ａ ｌ ｔ ｅ ｃ ｈ实验中比较发现， 采用显著性加权的最大值汇聚对分类效果有更进一步的提升． 图８ （ ａ ） （ ｂ ） 所示为在 Ｃ ａ ｌ ｔ ｅ ｃ ｈ１ ０ １和 Ｃ ａ ｌ ｔ ｅ ｃ ｈ 　２ ５ ６上采用普通的最大值汇聚和显著性加权最大值汇聚的实验比较． 结果发现， 显著性加权最大值汇聚方法有更好的表现．

    ３． ３． ４　 对比度归一化我们通过实验测试该模型有无对比度归一化后， 发现对比度归一化操作能有效提升模型的识别能力， 提升近３％． 归一化操作能有效提升特征对光照和前后背景变化的不变性， 在特征学习中很有用．实验对比结果如表３所示：

    ３． ３． ５　 特征提取时间在本模型中特征提取和编码是最耗时的， 本文在特征稀疏编码阶段使用Ｂ ＯＭＰ算法， 有效地提升了编码的效率， 通过比较不同算法在一幅３ ０ ０×３ ０ ０的图像上的运行时间可以看出， 采用Ｂ ＯＭＰ的效率远远高于 Ｈ Ｓ Ｓ Ｌ［ １ ９ ］ 和其他深度模型， 如表４所示：

    ４　 总 　　 结

    本文结合图像显著性信息和深度学习模型思想， 提出了一种基于图像显著性加权的层次稀疏表示用于图像分类， 采用批正交匹配追踪算法提升编码效率， 通过在层次提取特征过程中加入图像显著性先验信息， 使得提取到对图像具有判别性能更好的本质特征描述， 同时我们的图像特征表示是直接对图像数据进行提取， 不需要手工设计特征描述子，对自然图像具有普遍适用性． 与现有的基于局部特征的单层稀疏编码和其他层次特征学习方法相比，该方法在分类性能和效率上都有进一步的提升． 这里还有一个问题就是， 当图像中不存在显著性目标或目标对象很大时， 如场景识别， 该方法就表现的不是很好， 这也是我们今后研究的一个重点方向．

    参 考 文 献［ １ ］ Ｊ ａ ｒ ｒ ｅ ｔ ｔ 　Ｋ ， Ｋ ａ ｖ ｕ ｋ ｃ ｕ ｏ ｇ ｌ ｕ 　Ｋ ， Ｒ ａ ｎ ｚ ａ ｔ ｏ 　Ｍ ， ｅ ｔ 　ａ ｌ ．Ｗｈ ａ ｔ 　ｉ ｓ 　ｔ ｈ ｅｂ ｅ ｓ ｔ 　ｍ ｕ ｌ ｔ ｉ － ｓ ｔ ａ ｇ ｅ 　ａ ｒ ｃ ｈ ｉ ｔ ｅ ｃ ｔ ｕ ｒ ｅ 　ｆ ｏ ｒ 　ｏ ｂ ｊ ｅ ｃ ｔ 　ｒ ｅ ｃ ｏ ｇ ｎ ｉ ｔ ｉ ｏ ｎ ？［ Ｃ ］ ? ?Ｐ ｒ ｏ ｃ 　ｏ ｆ 　ｔ ｈ ｅ 　１ ２ ｔ ｈ 　Ｉ Ｅ Ｅ Ｅ 　Ｉ ｎ ｔ 　Ｃ ｏ ｎ ｆ 　ｏ ｎ 　Ｃ ｏ ｍ ｐ ｕ ｔ ｅ ｒ 　Ｖ ｉ ｓ ｉ ｏ ｎ．Ｐ ｉ ｓ ｃ ａ ｔ ａ ｗ ａ ｙ ， Ｎ Ｊ ： Ｉ Ｅ Ｅ Ｅ ， ２ ０ ０ ９ ： ２ １ ４ ６ － ２ １ ５ ３［ ２ ］ Ａ ｃ ｈ ａ ｎ ｔ ａ 　Ｒ ， Ｈ ｅ ｍ ａ ｍ ｉ 　Ｓ ， Ｅ ｓ ｔ ｒ ａ ｄ ａ 　Ｆ ， ｅ ｔ 　ａ ｌ ．Ｆ ｒ ｅ ｑ ｕ ｅ ｎ ｃ ｙ － ｔ ｕ ｎ ｅ ｄｓ ａ ｌ ｉ ｅ ｎ ｔ 　ｒ ｅ ｇ ｉ ｏ ｎ 　ｄ ｅ ｔ ｅ ｃ ｔ ｉ ｏ ｎ ［ Ｃ ］ ? ? Ｐ ｒ ｏ ｃ 　ｏ ｆ 　ｔ ｈ ｅ 　２ ２ ｎ ｄ 　Ｉ Ｅ Ｅ Ｅ 　Ｉ ｎ ｔ 　Ｃ ｏ ｎ ｆｏ ｎ 　Ｃ ｏ ｍ ｐ ｕ ｔ ｅ ｒ 　Ｖ ｉ ｓ ｉ ｏ ｎ 　ａ ｎ ｄ 　Ｐ ａ ｔ ｔ ｅ ｒ ｎ 　Ｒ ｅ ｃ ｏ ｇ ｎ ｉ ｔ ｉ ｏ ｎ．Ｐ ｉ ｓ ｃ ａ ｔ ａ ｗ ａ ｙ ，Ｎ Ｊ ： Ｉ Ｅ Ｅ Ｅ ， ２ ０ ０ ９ ： １ ５ ９ ７ － １ ６ ０ ４［ ３ ］ Ｈ ａ ｎ 　Ｂ ｉ ｎ ｇ ， Ｙ ａ ｎ ｇ 　 Ｃ ｈ ｅ ｎ ， Ｇ ａ ｏ 　Ｘ ｉ ｎ ｂ ｏ ． Ａ ｕ ｒ ｏ ｒ ａ 　ｉ ｍ ａ ｇ ｅｃ ｌ ａ ｓ ｓ ｉ ｆ ｉ ｃ ａ ｔ ｉ ｏ ｎ 　ｂ ａ ｓ ｅ ｄ 　ｏ ｎ 　Ｌ Ｄ Ａ 　ｃ ｏ ｍ ｂ ｉ ｎ ｉ ｎ ｇ 　 ｗ ｉ ｔ ｈ 　ｓ ａ ｌ ｉ ｅ ｎ ｃ ｙｉ ｎ ｆ ｏ ｒ ｍ ａ ｔ ｉ ｏ ｎ ［ Ｊ ］ ． Ｊ ｏ ｕ ｒ ｎ ａ ｌ 　ｏ ｆ 　Ｓ ｏ ｆ ｔ ｗ ａ ｒ ｅ ， ２ ０ １ ３ ， ２ ４ （ １ １ ） ： ２ ７ ５ ８ －２ ７ ６ ６ （ ｉ ｎ 　Ｃ ｈ ｉ ｎ ｅ ｓ ｅ ）（ 韩冰，杨辰，高新波 ． 融合显著信息的 Ｌ Ｄ Ａ 极光图像分类［ Ｊ ］ ． 软件学报， ２ ０ １ ３ ， ２ ４ （ １ １ ） ： ２ ７ ５ ８ － ２ ７ ６ ６ ）［ ４ ］ Ｇ ｅ ｍ ｅ ｒ ｔ 　Ｊ 　Ｃ ， Ｇ ｅ ｕ ｓ ｅ ｂ ｒ ｏ ｅ ｋ 　Ｊ 　Ｍ ， Ｖ ｅ ｅ ｎ ｍ ａ ｎ 　Ｃ 　Ｊ ， ｅ ｔ 　ａ ｌ ．Ｋ ｅ ｒ ｎ ｅ ｌｃ ｏ ｄ ｅ ｂ ｏ ｏ ｋ ｓ 　ｆ ｏ ｒ 　ｓ ｃ ｅ ｎ ｅ 　ｃ ａ ｔ ｅ ｇ ｏ ｒ ｉ ｚ ａ ｔ ｉ ｏ ｎ ［ Ｃ ］ ? ? Ｐ ｒ ｏ ｃ 　ｏ ｆ 　ｔ ｈ ｅ 　１ ０ ｔ ｈＥ ｕ ｒ ｏ ｐ ｅ ａ ｎ 　Ｃ ｏ ｎ ｆ 　ｏ ｎ 　Ｃ ｏ ｍ ｐ ｕ ｔ ｅ ｒ 　Ｖ ｉ ｓ ｉ ｏ ｎ．Ｎ ｅ ｗ　Ｙ ｏ ｒ ｋ ： Ａ ＣＭ ，２ ０ ０ ８ ： ６ ９ ６ － ７ ０ ９［ ５ ］ Ｃ ｓ ｕ ｒ ｋ ａ 　Ｇ ， Ｄ ａ ｎ ｃ ｅ 　Ｃ 　Ｒ ， Ｆ ａ ｎ 　Ｌ ｉ ｘ ｉ ｎ ， ｅ ｔ 　ａ ｌ ． Ｖ ｉ ｓ ｕ ａ ｌｃ ａ ｔ ｅ ｇ ｏ ｒ ｉ ｚ ａ ｔ ｉ ｏ ｎ 　ｗ ｉ ｔ ｈ 　ｂ ａ ｇ ｓ 　ｏ ｆ 　ｋ ｅ ｙ ｐ ｏ ｉ ｎ ｔ ｓ ［ Ｃ ］ ? ? Ｐ ｒ ｏ ｃ 　ｏ ｆ 　ｔ ｈ ｅ 　８ ｔ ｈＥ ｕ ｒ ｏ ｐ ｅ ａ ｎ 　Ｃ ｏ ｎ ｆ 　ｏ ｎ 　Ｃ ｏ ｍ ｐ ｕ ｔ ｅ ｒ 　Ｖ ｉ ｓ ｉ ｏ ｎ． Ｂ ｅ ｒ ｌ ｉ ｎ ： Ｓ ｐ ｒ ｉ ｎ ｇ ｅ ｒ ， ２ ０ ０ ４ ：１ － ２ ２［ ６ ］ Ｌ ａ ｚ ｅ ｂ ｎ ｉ ｋ 　Ｓ ， Ｓ ｃ ｈ ｍ ｉ ｄ 　Ｃ ， Ｐ ｏ ｎ ｃ ｅ 　Ｊ ．Ｂ ｅ ｙ ｏ ｎ ｄ 　ｂ ａ ｇ ｓ 　ｏ ｆ 　ｆ ｅ ａ ｔ ｕ ｒ ｅ ｓ ：Ｓ ｐ ａ ｔ ｉ ａ ｌ 　ｐ ｙ ｒ ａ ｍ ｉ ｄ 　ｍ ａ ｔ ｃ ｈ ｉ ｎ ｇ 　 ｆ ｏ ｒ 　ｒ ｅ ｃ ｏ ｇ ｎ ｉ ｚ ｉ ｎ ｇ 　 ｎ ａ ｔ ｕ ｒ ａ ｌ 　ｓ ｃ ｅ ｎ ｅｃ ａ ｔ ｅ ｇ ｏ ｒ ｉ ｅ ｓ ［ Ｃ ］ ? ? Ｐ ｒ ｏ ｃ 　ｏ ｆ 　ｔ ｈ ｅ 　１ ９ ｔ ｈ 　Ｃ ｏ ｍ ｐ ｕ ｔ ｅ ｒ 　Ｓ ｏ ｃ ｉ ｅ ｔ ｙ 　 Ｃ ｏ ｎ ｆ 　ｏ ｎＣ ｏ ｍ ｐ ｕ ｔ ｅ ｒ 　Ｖ ｉ ｓ ｉ ｏ ｎ 　ａ ｎ ｄ 　Ｐ ａ ｔ ｔ ｅ ｒ ｎ 　Ｒ ｅ ｃ ｏ ｇ ｎ ｉ ｔ ｉ ｏ ｎ． Ｐ ｉ ｓ ｃ ａ ｔ ａ ｗ ａ ｙ ， Ｎ Ｊ ：Ｉ Ｅ Ｅ Ｅ ， ２ ０ ０ ６ ： ２ １ ６ ９ － ２ １ ７ ８［ ７ ］Ｙ ａ ｎ ｇ Ｊ ｉ ａ ｎ ｃ ｈ ａ ｏ ， Ｙ ｕ 　Ｋ ａ ｉ ， Ｇ ｏ ｎ ｇ 　 Ｙ ｉ ｈ ｏ ｎ ｇ ， ｅ ｔ 　ａ ｌ ．Ｌ ｉ ｎ ｅ ａ ｒ 　ｓ ｐ ａ ｔ ｉ ａ ｌｐ ｙ ｒ ａ ｍ ｉ ｄ 　ｍ ａ ｔ ｃ ｈ ｉ ｎ ｇ 　 ｕ ｓ ｉ ｎ ｇ 　 ｓ ｐ ａ ｒ ｓ ｅ 　ｃ ｏ ｄ ｉ ｎ ｇ 　 ｆ ｏ ｒ 　ｉ ｍ ａ ｇ ｅ 　ｃ ｌ ａ ｓ ｓ ｉ ｆ ｉ ｃ ａ ｔ ｉ ｏ ｎ［ Ｃ ］ ? ? Ｐ ｒ ｏ ｃ 　ｏ ｆ 　ｔ ｈ ｅ 　２ ２ ｎ ｄ 　Ｃ ｏ ｍ ｐ ｕ ｔ ｅ ｒ 　Ｓ ｏ ｃ ｉ ｅ ｔ ｙ 　 Ｃ ｏ ｎ ｆ 　ｏ ｎ 　Ｃ ｏ ｍ ｐ ｕ ｔ ｅ ｒＶ ｉ ｓ ｉ ｏ ｎ 　ａ ｎ ｄ 　Ｐ ａ ｔ ｔ ｅ ｒ ｎ 　Ｒ ｅ ｃ ｏ ｇ ｎ ｉ ｔ ｉ ｏ ｎ．Ｐ ｉ ｓ ｃ ａ ｔ ａ ｗ ａ ｙ ， Ｎ Ｊ ： Ｉ Ｅ Ｅ Ｅ ，２ ０ ０ ９ ： １ ７ ９ ４ － １ ８ ０ １［ ８ ］ Ｗ ａ ｎ ｇ 　 Ｊ ｉ ｎ ｊ ｕ ｎ ，Ｙ ａ ｎ ｇ Ｊ ｉ ａ ｎ ｃ ｈ ａ ｏ ， Ｙ ｕ 　Ｋ ａ ｉ ， ｅ ｔ 　ａ ｌ ．Ｌ ｏ ｃ ａ ｌ ｉ ｔ ｙ －ｃ ｏ ｎ ｓ ｔ ｒ ａ ｉ ｎ ｅ ｄ 　ｌ ｉ ｎ ｅ ａ ｒ 　ｃ ｏ ｄ ｉ ｎ ｇ 　 ｆ ｏ ｒ 　ｉ ｍ ａ ｇ ｅ 　ｃ ｌ ａ ｓ ｓ ｉ ｆ ｉ ｃ ａ ｔ ｉ ｏ ｎ ［ Ｃ ］ ? ? Ｐ ｒ ｏ ｃ 　ｏ ｆｔ ｈ ｅ 　２ ３ ｒ ｄ 　Ｉ Ｅ Ｅ Ｅ 　Ｃ ｏ ｎ ｆ 　ｏ ｎ 　Ｃ ｏ ｍ ｐ ｕ ｔ ｅ ｒ 　Ｖ ｉ ｓ ｉ ｏ ｎ 　ａ ｎ ｄ 　Ｐ ａ ｔ ｔ ｅ ｒ ｎＲ ｅ ｃ ｏ ｇ ｎ ｉ ｔ ｉ ｏ ｎ． Ｐ ｉ ｓ ｃ ａ ｔ ａ ｗ ａ ｙ ， Ｎ Ｊ ： Ｉ Ｅ Ｅ Ｅ ， ２ ０ １ ０ ： ３ ３ ６ ０ － ３ ３ ６ ７［ ９ ］ Ｙ ｕ 　Ｋ ａ ｉ ， Ｌ ｉ ｎ 　Ｙ ｕ ａ ｎ ｑ ｉ ｎ ｇ ， Ｌ ａ ｆ ｆ ｅ ｒ ｔ ｙ 　 Ｊ ． Ｌ ｅ ａ ｒ ｎ ｉ ｎ ｇ 　 ｉ ｍ ａ ｇ ｅｒ ｅ ｐ ｒ ｅ ｓ ｅ ｎ ｔ ａ ｔ ｉ ｏ ｎ ｓ 　ｆ ｒ ｏ ｍ 　ｔ ｈ ｅ 　ｐ ｉ ｘ ｅ ｌ 　ｌ ｅ ｖ ｅ ｌ 　ｖ ｉ ａ 　ｈ ｉ ｅ ｒ ａ ｒ ｃ ｈ ｉ ｃ ａ ｌ 　ｓ ｐ ａ ｒ ｓ ｅｃ ｏ ｄ ｉ ｎ ｇ ［ Ｃ ］ ? ? Ｐ ｒ ｏ ｃ 　ｏ ｆ 　ｔ ｈ ｅ 　２ ４ ｔ ｈ 　Ｉ Ｅ Ｅ Ｅ 　Ｃ ｏ ｎ ｆ 　ｏ ｎ 　Ｃ ｏ ｍ ｐ ｕ ｔ ｅ ｒ 　Ｖ ｉ ｓ ｉ ｏ ｎａ ｎ ｄ 　Ｐ ａ ｔ ｔ ｅ ｒ ｎ 　Ｒ ｅ ｃ ｏ ｇ ｎ ｉ ｔ ｉ ｏ ｎ．Ｐ ｉ ｓ ｃ ａ ｔ ａ ｗ ａ ｙ ， Ｎ Ｊ ： Ｉ Ｅ Ｅ Ｅ ， ２ ０ １ １ ：１ ７ １ ３ － １ ７ ２ ０［ １ ０ ］ Ｙ ｕ 　Ｋ ａ ｉ ， Ｊ ｉ ａ 　Ｌ ｅ ｉ ， Ｃ ｈ ｅ ｎ 　Ｙ ｕ ｑ ｉ ａ ｎ ｇ ， ｅ ｔ 　ａ ｌ ．Ｄ ｅ ｅ ｐ 　 ｌ ｅ ａ ｒ ｎ ｉ ｎ ｇ ：Ｙ ｅ ｓ ｔ ｅ ｒ ｄ ａ ｙ ， ｔ ｏ ｄ ａ ｙ 　 ａ ｎ ｄ 　ｔ ｏ ｍ ｏ ｒ ｒ ｏ ｗ ［ Ｊ ］ ．Ｊ ｏ ｕ ｒ ｎ ａ ｌ 　ｏ ｆ 　Ｃ ｏ ｍ ｐ ｕ ｔ ｅ ｒＲ ｅ ｓ ｅ ａ ｒ ｃ ｈ 　ａ ｎ ｄ 　Ｄ ｅ ｖ ｅ ｌ ｏ ｐ ｍ ｅ ｎ ｔ ， ２ ０ １ ３ ， ５ ０ （ ９ ） ： １ ７ ９ ９ － １ ８ ０ ４ （ ｉ ｎＣ ｈ ｉ ｎ ｅ ｓ ｅ ）（ 余凯，贾磊，陈雨强，等 ． 深度学习的昨天、 今天和明天［ Ｊ ］ ．计算机研究与发展， ２ ０ １ ３ ， ５ ０ （ ９ ） ： １ ７ ９ ９ － １ ８ ０ ４ ）［ １ １ ］ Ｈ ｏ ｕ 　Ｘ ｉ ａ ｏ ｄ ｉ ， Ｚ ｈ ａ ｎ ｇ 　 Ｌ ｉ ｑ ｉ ｎ ｇ ．Ｓ ａ ｌ ｉ ｅ ｎ ｃ ｙ 　 ｄ ｅ ｔ ｅ ｃ ｔ ｉ ｏ ｎ ： Ａ 　ｓ ｐ ｅ ｃ ｔ ｒ ａ ｌｒ ｅ ｓ ｉ ｄ ｕ ａ ｌ 　ａ ｐ ｐ ｒ ｏ ａ ｃ ｈ ［ Ｃ ］ ? ? Ｐ ｒ ｏ ｃ 　ｏ ｆ 　ｔ ｈ ｅ 　２ ０ ｔ ｈ 　Ｉ Ｅ Ｅ Ｅ 　Ｃ ｏ ｎ ｆ 　ｏ ｎＣ ｏ ｍ ｐ ｕ ｔ ｅ ｒ 　Ｖ ｉ ｓ ｉ ｏ ｎ 　ａ ｎ ｄ 　Ｐ ａ ｔ ｔ ｅ ｒ ｎ 　Ｒ ｅ ｃ ｏ ｇ ｎ ｉ ｔ ｉ ｏ ｎ． Ｐ ｉ ｓ ｃ ａ ｔ ａ ｗ ａ ｙ ， Ｎ Ｊ ：Ｉ Ｅ Ｅ Ｅ ， ２ ０ ０ ７ ： １ － ８［ １ ２ ］ Ｌ ｉ 　Ｆ ｅ ｉ ｆ ｅ ｉ ， Ｆ ｅ ｒ ｇ ｕ ｓ 　Ｒ ， Ｐ ｅ ｒ ｏ ｎ ａ 　Ｐ．Ｌ ｅ ａ ｒ ｎ ｉ ｎ ｇ 　ｇ ｅ ｎ ｅ ｒ ａ ｔ ｉ ｖ ｅ 　ｖ ｉ ｓ ｕ ａ ｌｍ ｏ ｄ ｅ ｌ ｓ 　ｆ ｒ ｏ ｍ 　ｆ ｅ ｗ 　ｔ ｒ ａ ｉ ｎ ｉ ｎ ｇ 　 ｅ ｘ ａ ｍ ｐ ｌ ｅ ｓ ： Ａ ｎ 　ｉ ｎ ｃ ｒ ｅ ｍ ｅ ｎ ｔ ａ ｌ 　ｂ ａ ｙ ｅ ｓ ｉ ａ ｎａ ｐ ｐ ｒ ｏ ａ ｃ ｈ 　ｔ ｅ ｓ ｔ ｅ ｄ 　ｏ ｎ 　１ ０ １ ｏ ｂ ｊ ｅ ｃ ｔ 　ｃ ａ ｔ ｅ ｇ ｏ ｒ ｉ ｅ ｓ ［ Ｊ ］ ．Ｃ ｏ ｍ ｐ ｕ ｔ ｅ ｒＶ ｉ ｓ ｉ ｏ ｎ 　ａ ｎ ｄ 　Ｉ ｍ ａ ｇ ｅ 　Ｕ ｎ ｄ ｅ ｒ ｓ ｔ ａ ｎ ｄ ｉ ｎ ｇ ， ２ ０ ０ ７ ， １ ０ ６ （ １ ） ： ５ ９ － ７ ０［ １ ３ ］ Ｇ ｒ ｉ ｆ ｆ ｉ ｎ 　Ｇ ， Ｈ ｏ ｌ ｕ ｂ 　Ａ ， Ｐ ｅ ｒ ｏ ｎ ａ 　Ｐ．Ｃ ａ ｌ ｔ ｅ ｃ ｈ － ２ ５ ６ｏ ｂ ｊ ｅ ｃ ｔ 　ｃ ａ ｔ ｅ ｇ ｏ ｒ ｙｄ ａ ｔ ａ ｓ ｅ ｔ ［ Ｒ ? Ｏ Ｌ ］ ．Ｃ ａ ｌ ｉ ｆ ｏ ｒ ｎ ｉ ａ ， Ｕ Ｓ Ａ ： Ｃ ａ ｌ ｉ ｆ ｏ ｒ ｎ ｉ ａ 　Ｉ ｎ ｓ ｔ ｉ ｔ ｕ ｔ ｅ 　ｏ ｆＴ ｅ ｃ ｈ ｎ ｏ ｌ ｏ ｇ ｙ ， ２ ０ ０ ７ ［ ２ ０ １ ４ － ０ ２ － １ ５ ］ ．ｈ ｔ ｔ ｐ ： ? ? ｒ ｅ ｓ ｏ ｌ ｖ ｅ ｒ ． ｃ ａ ｌ ｔ ｅ ｃ ｈ．ｅ ｄ ｕ ? Ｃ ａ ｌ ｔ ｅ ｃ ｈ ＡＵＴＨＯ Ｒ Ｓ ： Ｃ Ｎ Ｓ － Ｔ Ｒ － ２ ０ ０ ７ － ０ ０ １［ １ ４ ］ Ｂ ｏ 　Ｌ ｉ ｆ ｅ ｎ ｇ ， Ｒ ｅ ｎ 　Ｘ ｉ ａ ｏ ｆ ｅ ｎ ｇ ， Ｆ ｏ ｘ 　Ｄ．Ｈ ｉ ｅ ｒ ａ ｒ ｃ ｈ ｉ ｃ ａ ｌ 　ｍ ａ ｔ ｃ ｈ ｉ ｎ ｇｐ ｕ ｒ ｓ ｕ ｉ ｔ 　ｆ ｏ ｒ 　ｉ ｍ ａ ｇ ｅ 　ｃ ｌ ａ ｓ ｓ ｉ ｆ ｉ ｃ ａ ｔ ｉ ｏ ｎ ： Ａ ｒ ｃ ｈ ｉ ｔ ｅ ｃ ｔ ｕ ｒ ｅ 　ａ ｎ ｄ 　ｆ ａ ｓ ｔａ ｌ ｇ ｏ ｒ ｉ ｔ ｈ ｍ ｓ ［ Ｃ ］ ? ? Ｐ ｒ ｏ ｃ 　ｏ ｆ 　ｔ ｈ ｅ 　２ ５ ｔ ｈ 　Ｃ ｏ ｎ ｆ 　ｏ ｆ 　Ａ ｄ ｖ ａ ｎ ｃ ｅ ｓ 　ｉ ｎ 　Ｎ ｅ ｕ ｒ ａ ｌＩ ｎ ｆ ｏ ｒ ｍ ａ ｔ ｉ ｏ ｎ 　Ｐ ｒ ｏ ｃ ｅ ｓ ｓ ｉ ｎ ｇ 　 Ｓ ｙ ｓ ｔ ｅ ｍ ｓ ． Ｒ ｏ ｓ ｔ ｒ ｅ ｖ ｏ ｒ ， Ｉ ｒ ｅ ｌ ａ ｎ ｄ ： Ｃ ｕ ｒ ｒ ａ ｎＡ ｓ ｓ ｏ ｃ ｉ ａ ｔ ｅ ｓ ， Ｉ ｎ ｃ ， ２ ０ １ １ ： ２ １ １ ５ － ２ １ ２ ３［ １ ５ ］ Ｈ ｉ ｎ ｔ ｏ ｎ 　Ｇ 　Ｅ ， Ｏ ｓ ｉ ｎ ｄ ｅ ｒ ｏ 　Ｓ ， Ｔ ｅ ｈ 　Ｙ　Ｗ． Ａ 　ｆ ａ ｓ ｔ 　ｌ ｅ ａ ｒ ｎ ｉ ｎ ｇａ ｌ ｇ ｏ ｒ ｉ ｔ ｈ ｍ 　ｆ ｏ ｒ 　ｄ ｅ ｅ ｐ 　 ｂ ｅ ｌ ｉ ｅ ｆ 　ｎ ｅ ｔ ｓ ［ Ｊ ］ ．Ｎ ｅ ｕ ｒ ａ ｌ 　Ｃ ｏ ｍ ｐ ｕ ｔ ａ ｔ ｉ ｏ ｎ ，２ ０ ０ ６ ， １ ８ （ ７ ） ： １ ５ ２ ７ － １ ５ ５ ４［ １ ６ ］ Ｋ ｒ ｉ ｚ ｈ ｅ ｖ ｓ ｋ ｙ 　 Ａ ， Ｓ ｕ ｔ ｓ ｋ ｅ ｖ ｅ ｒ 　Ｉ ， Ｈ ｉ ｎ ｔ ｏ ｎ 　Ｇ 　Ｅ． Ｉ ｍ ａ ｇ ｅ ｎ ｅ ｔｃ ｌ ａ ｓ ｓ ｉ ｆ ｉ ｃ ａ ｔ ｉ ｏ ｎ 　ｗ ｉ ｔ ｈ 　ｄ ｅ ｅ ｐ 　 ｃ ｏ ｎ ｖ ｏ ｌ ｕ ｔ ｉ ｏ ｎ ａ ｌ 　ｎ ｅ ｕ ｒ ａ ｌ 　ｎ ｅ ｔ ｗ ｏ ｒ ｋ ｓ ［Ｃ ］ ? ?Ｐ ｒ ｏ ｃ 　ｏ ｆ 　ｔ ｈ ｅ 　２ ６ ｔ ｈ 　Ｃ ｏ ｎ ｆ 　ｏ ｆ 　Ａ ｄ ｖ ａ ｎ ｃ ｅ ｓ 　ｉ ｎ 　Ｎ ｅ ｕ ｒ ａ ｌ 　Ｉ ｎ ｆ ｏ ｒ ｍ ａ ｔ ｉ ｏ ｎＰ ｒ ｏ ｃ ｅ ｓ ｓ ｉ ｎ ｇ 　 Ｓ ｙ ｓ ｔ ｅ ｍ ｓ ． Ｒ ｏ ｓ ｔ ｒ ｅ ｖ ｏ ｒ ， Ｉ ｒ ｅ ｌ ａ ｎ ｄ ： Ｃ ｕ ｒ ｒ ａ ｎ 　Ａ ｓ ｓ ｏ ｃ ｉ ａ ｔ ｅ ｓ，Ｉ ｎ ｃ ， ２ ０ １ ２ ： １ ０ ９ ７ － １ １ ０ ５［ １ ７ ］ Ｌ ｅ ｅ 　Ｈ ， Ｇ ｒ ｏ ｓ ｓ ｅ 　Ｒ ， Ｒ ａ ｎ ｇ ａ ｎ ａ ｔ ｈ 　Ｒ ， ｅ ｔ 　ａ ｌ ．Ｃ ｏ ｎ ｖ ｏ ｌ ｕ ｔ ｉ ｏ ｎ ａ ｌ 　ｄ ｅ ｅ ｐｂ ｅ ｌ ｉ ｅ ｆ 　ｎ ｅ ｔ ｗ ｏ ｒ ｋ ｓ 　ｆ ｏ ｒ 　ｓ ｃ ａ ｌ ａ ｂ ｌ ｅ 　ｕ ｎ ｓ ｕ ｐ ｅ ｒ ｖ ｉ ｓ ｅ ｄ 　ｌ ｅ ａ ｒ ｎ ｉ ｎ ｇ 　 ｏ ｆｈ ｉ ｅ ｒ ａ ｒ ｃ ｈ ｉ ｃ ａ ｌ 　ｒ ｅ ｐ ｒ ｅ ｓ ｅ ｎ ｔ ａ ｔ ｉ ｏ ｎ ｓ ［ Ｃ ］ ? ? Ｐ ｒ ｏ ｃ 　ｏ ｆ 　ｔ ｈ ｅ 　２ ６ ｔ ｈ 　Ａ ｎ ｎ ｕ ａ ｌ 　Ｉ ｎ ｔＣ ｏ ｎ ｆ 　ｏ ｎ 　Ｍ ａ ｃ ｈ ｉ ｎ ｅ 　Ｌ ｅ ａ ｒ ｎ ｉ ｎ ｇ ．Ｐ ｉ ｓ ｃ ａ ｔ ａ ｗ ａ ｙ ， Ｎ Ｊ ： Ｉ Ｅ Ｅ Ｅ ， ２ ０ ０ ９ ：６ ０ ９ － ６ １ ６［ １ ８ ］ Ｌ ｅ 　Ｑ　Ｖ ， Ｒ ａ ｎ ｚ ａ ｔ ｏ 　Ｍ ， Ｍ ｏ ｎ ｇ ａ 　Ｒ ， ｅ ｔ 　ａ ｌ ．Ｂ ｕ ｉ ｌ ｄ ｉ ｎ ｇ 　 ｈ ｉ ｇ ｈ － ｌ ｅ ｖ ｅ ｌｆ ｅ ａ ｔ ｕ ｒ ｅ ｓ 　ｕ ｓ ｉ ｎ ｇ 　 ｌ ａ ｒ ｇ ｅ 　ｓ ｃ ａ ｌ ｅ 　ｕ ｎ ｓ ｕ ｐ ｅ ｒ ｖ ｉ ｓ ｅ ｄ 　ｌ ｅ ａ ｒ ｎ ｉ ｎ ｇ ［Ｃ ］ ? ? Ｐ ｒ ｏ ｃ 　ｏ ｆｔ ｈ ｅ 　２ ０ １ ３Ｉ Ｅ Ｅ Ｅ 　Ｉ ｎ ｔ 　Ｃ ｏ ｎ ｆ 　ｏ ｎ 　Ａ ｃ ｏ ｕ ｓ ｔ ｉ ｃ ｓ ， Ｓ ｐ ｅ ｅ ｃ ｈ 　ａ ｎ ｄ 　Ｓ ｉ ｇ ｎ ａ ｌＰ ｒ ｏ ｃ ｅ ｓ ｓ ｉ ｎ ｇ ． Ｐ ｉ ｓ ｃ ａ ｔ ａ ｗ ａ ｙ ， Ｎ Ｊ ： Ｉ Ｅ Ｅ Ｅ ， ２ ０ １ ３ ： ８ ５ ９ ５ － ８ ５ ９ ８［ １ ９ ］Ｙ ａ ｎ ｇ Ｊ ｉ ｍ ｅ ｉ ， Ｙ ａ ｎ ｇ 　 Ｍ　Ｈ． Ｌ ｅ ａ ｒ ｎ ｉ ｎ ｇ 　 ｈ ｉ ｅ ｒ ａ ｒ ｃ ｈ ｉ ｃ ａ ｌ 　ｉ ｍ ａ ｇ ｅｒ ｅ ｐ ｒ ｅ ｓ ｅ ｎ ｔ ａ ｔ ｉ ｏ ｎ 　ｗ ｉ ｔ ｈ 　ｓ ｐ ａ ｒ ｓ ｉ ｔ ｙ ， ｓ ａ ｌ ｉ ｅ ｎ ｃ ｙ 　 ａ ｎ ｄ 　ｌ ｏ ｃ ａ ｌ ｉ ｔ ｙ ［ Ｃ ］ ? ? Ｐ ｒ ｏ ｃｏ ｆ 　ｔ ｈ ｅ 　２ ０ １ １Ｃ ｏ ｎ ｆ 　ｏ ｆ 　ｔ ｈ ｅ 　Ｂ ｒ ｉ ｔ ｉ ｓ ｈ 　Ｍ ａ ｃ ｈ ｉ ｎ ｅ 　Ｖ ｉ ｓ ｉ ｏ ｎ．Ｍ ａ ｎ ｃ ｈ ｅ ｓ ｔ ｅ ｒ ，ＵＫ ： ＢＭＶＡ 　Ｐ ｒ ｅ ｓ ｓ ， ２ ０ １ １ ： １ － １ １［ ２ ０ ］ Ａ ｈ ａ ｒ ｏ ｎ 　Ｍ ， Ｅ ｌ ａ ｄ 　Ｍ ， Ｂ ｒ ｕ ｃ ｋ ｓ ｔ ｅ ｉ ｎ 　Ａ．Ｋ － Ｓ Ｖ Ｄ ： Ａ ｎ 　ａ ｌ ｇ ｏ ｒ ｉ ｔ ｈ ｍｆ ｏ ｒ 　ｄ ｅ ｓ ｉ ｇ ｎ ｉ ｎ ｇ 　 ｏ ｖ ｅ ｒ ｃ ｏ ｍ ｐ ｌ ｅ ｔ ｅ 　ｄ ｉ ｃ ｔ ｉ ｏ ｎ ａ ｒ ｉ ｅ ｓ 　ｆ ｏ ｒ 　ｓ ｐ ａ ｒ ｓ ｅｒ ｅ ｐ ｒ ｅ ｓ ｅ ｎ ｔ ａ ｔ ｉ ｏ ｎ ［ Ｊ ］ ． Ｉ Ｅ Ｅ Ｅ 　Ｔ ｒ ａ ｎ ｓ 　ｏ ｎ 　Ｓ ｉ ｇ ｎ ａ ｌ 　Ｐ ｒ ｏ ｃ ｅ ｓ ｓ ｉ ｎ ｇ ， ２ ０ ０ ６ ，５ ４ （ １ １ ） ： ４ ３ １ １ － ４ ３ ２ ２［ ２ １ ］ Ｐ ａ ｔ ｉ 　Ｙ 　Ｃ ， Ｒ ｅ ｚ ａ ｉ ｉ ｆ ａ ｒ 　Ｒ ， Ｋ ｒ ｉ ｓ ｈ ｎ ａ ｐ ｒ ａ ｓ ａ ｄ 　Ｐ 　Ｓ．Ｏ ｒ ｔ ｈ ｏ ｇ ｏ ｎ ａ ｌｍ ａ ｔ ｃ ｈ ｉ ｎ ｇ 　ｐ ｕ ｒ ｓ ｕ ｉ ｔ ： Ｒ ｅ ｃ ｕ ｒ ｓ ｉ ｖ ｅ 　ｆ ｕ ｎ ｃ ｔ ｉ ｏ ｎ 　ａ ｐ ｐ ｒ ｏ ｘ ｉ ｍ ａ ｔ ｉ ｏ ｎ 　ｗ ｉ ｔ ｈａ ｐ ｐ ｌ ｉ ｃ ａ ｔ ｉ ｏ ｎ ｓ 　ｔ ｏ 　ｗ ａ ｖ ｅ ｌ ｅ ｔ 　ｄ ｅ ｃ ｏ ｍ ｐ ｏ ｓ ｉ ｔ ｉ ｏ ｎ ［ Ｃ ］ ? ? Ｐ ｒ ｏ ｃ 　ｏ ｆ 　ｔ ｈ ｅ 　２ ７ ｔ ｈＡ ｓ ｉ ｌ ｏ ｍ ａ ｒ 　Ｃ ｏ ｎ ｆ 　ｏ ｎ 　Ｓ ｉ ｇ ｎ ａ ｌ ｓ ， Ｓ ｙ ｓ ｔ ｅ ｍ ｓ 　ａ ｎ ｄ 　Ｃ ｏ ｍ ｐ ｕ ｔ ｅ ｒ ｓ ．Ｐ ｉ ｓ ｃ ａ ｔ ａ ｗ ａ ｙ ， Ｎ Ｊ ： Ｉ Ｅ Ｅ Ｅ ， １ ９ ９ ３ ： ４ ０ － ４ ４［ ２ ２ ］ Ｏ ｌ ｓ ｈ ａ ｕ ｓ ｅ ｎ 　Ｂ 　Ａ ， Ｆ ｉ ｅ ｌ ｄ ｔ 　Ｄ 　Ｊ ． Ｓ ｐ ａ ｒ ｓ ｅ 　ｃ ｏ ｄ ｉ ｎ ｇ 　 ｗ ｉ ｔ ｈ 　ａ ｎｏ ｖ ｅ ｒ ｃ ｏ ｍ ｐ ｌ ｅ ｔ ｅ 　ｂ ａ ｓ ｉ ｓ 　ｓ ｅ ｔ ： Ａ 　ｓ ｔ ｒ ａ ｔ ｅ ｇ ｙ 　 ｅ ｍ ｐ ｌ ｏ ｙ ｅ ｄ 　ｂ ｙ 　 Ｖ １ ？［ Ｊ ］ ．Ｖ ｉ ｓ ｕ ａ ｌ 　Ｒ ｅ ｓ ｅ ａ ｒ ｃ ｈ ， １ ９ ９ ７ ， ３ ７ （ ３ ３ ） ： ３ ３ １ １ － ３ ３ ２ ５［ ２ ３ ］ Ｒ ｕ ｂ ｉ ｎ ｓ ｔ ｅ ｉ ｎ 　Ｒ ， Ｚ ｉ ｂ ｕ ｌ ｅ ｖ ｓ ｋ ｙ 　 Ｍ ， Ｅ ｌ ａ ｄ 　Ｍ． Ｅ ｆ ｆ ｉ ｃ ｉ ｅ ｎ ｔｉ ｍ ｐ ｌ ｅ ｍ ｅ ｎ ｔ ａ ｔ ｉ ｏ ｎ 　ｏ ｆ 　ｔ ｈ ｅ 　Ｋ － Ｓ Ｖ Ｄ 　ａ ｌ ｇ ｏ ｒ ｉ ｔ ｈ ｍ 　ｕ ｓ ｉ ｎ ｇ 　 ｂ ａ ｔ ｃ ｈｏ ｒ ｔ ｈ ｏ ｇ ｏ ｎ ａ ｌ 　ｍ ａ ｔ ｃ ｈ ｉ ｎ ｇ 　ｐ ｕ ｒ ｓ ｕ ｉ ｔ ［ Ｒ ］ ． Ｈ ａ ｉ ｆ ａ ， Ｉ ｓ ｒ ａ ｅ ｌ ： Ｉ ｓ ｒ ａ ｅ ｌＩ ｎ ｓ ｔ ｉ ｔ ｕ ｔ ｅ 　ｏ ｆ 　Ｔ ｅ ｃ ｈ ｎ ｏ ｌ ｏ ｇ ｙ ， ２ ０ ０ ８［ ２ ４ ］ Ｆ ａ ｎ 　Ｒ 　Ｅ ， Ｃ ｈ ａ ｎ ｇ 　 Ｋ　Ｗ ， Ｈ ｓ ｉ ｅ ｈ 　Ｃ 　Ｊ ， ｅ ｔ 　ａ ｌ ．Ｌ Ｉ Ｂ Ｌ Ｉ Ｎ Ｅ Ａ Ｒ ： Ａｌ ｉ ｂ ｒ ａ ｒ ｙ 　 ｆ ｏ ｒ 　ｌ ａ ｒ ｇ ｅ 　ｌ ｉ ｎ ｅ ａ ｒ 　ｃ ｌ ａ ｓ ｓ ｉ ｆ ｉ ｃ ａ ｔ ｉ ｏ ｎ ［Ｊ ］ ． Ｊ ｏ ｕ ｒ ｎ ａ ｌ 　ｏ ｆ 　Ｍ ａ ｃ ｈ ｉ ｎ ｅＬ ｅ ａ ｒ ｎ ｉ ｎ ｇ 　 Ｒ ｅ ｓ ｅ ａ ｒ ｃ ｈ ， ２ ０ ０ ８ ， ９ （１ ） ： １ ８ ７ １ － １ ８ ７ ４［ ２ ５ ］ Ｇ ｒ ａ ｕ ｍ ａ ｎ 　Ｋ ， Ｄ ａ ｒ ｒ ｅ ｌ ｌ 　Ｔ． Ｔ ｈ ｅ 　ｐ ｙ ｒ ａ ｍ ｉ ｄ 　ｍ ａ ｔ ｃ ｈ 　ｋ ｅ ｒ ｎ ｅ ｌ ：Ｄ ｉ ｓ ｃ ｒ ｉ ｍ ｉ ｎ ａ ｔ ｉ ｖ ｅ 　ｃ ｌ ａ ｓ ｓ ｉ ｆ ｉ ｃ ａ ｔ ｉ ｏ ｎ 　ｗ ｉ ｔ ｈ 　ｓ ｅ ｔ ｓ 　ｏ ｆ 　ｉ ｍ ａ ｇ ｅ 　ｆ ｅ ａ ｔ ｕ ｒ ｅ ｓ ［ Ｃ ］ ? ? Ｐ ｒ ｏ ｃ 　ｏ ｆ 　ｔ ｈ ｅ 　１ ０ ｔ ｈ 　Ｉ Ｅ Ｅ Ｅ 　Ｉ ｎ ｔ 　Ｃ ｏ ｎ ｆ 　ｏ ｎ 　Ｃ ｏ ｍ ｐ ｕ ｔ ｅ ｒ 　Ｖ ｉ ｓ ｉ ｏ ｎ．Ｐ ｉ ｓ ｃ ａ ｔ ａ ｗ ａ ｙ ， Ｎ Ｊ ： Ｉ Ｅ Ｅ Ｅ ， ２ ０ ０ ５ ： １ ５ ５ ０ － ５ ４ ９ ９［ ２ ６ ］ Ｚ ｅ ｉ ｌ ｅ ｒ 　Ｍ　Ｄ ， Ｋ ｒ ｉ ｓ ｈ ｎ ａ ｎ 　Ｄ ， Ｔ ａ ｙ ｌ ｏ ｒ 　Ｇ　Ｗ ， ｅ ｔ 　ａ ｌ ． Ｄ ｅ ｃ ｏ ｎ ｖ ｏ ｌ ｕ ｔ ｉ ｏ ｎ ａ ｌｎ ｅ ｔ ｗ ｏ ｒ ｋ ｓ ［ Ｃ ］ ? ? Ｐ ｒ ｏ ｃ 　ｏ ｆ 　ｔ ｈ ｅ 　２ ３ ｒ ｄ 　Ｉ Ｅ Ｅ Ｅ 　Ｃ ｏ ｎ ｆ 　ｏ ｎ 　Ｃ ｏ ｍ ｐ ｕ ｔ ｅ ｒＶ ｉ ｓ ｉ ｏ ｎ 　ａ ｎ ｄ 　Ｐ ａ ｔ ｔ ｅ ｒ ｎ 　Ｒ ｅ ｃ ｏ ｇ ｎ ｉ ｔ ｉ ｏ ｎ．Ｐ ｉ ｓ ｃ ａ ｔ ａ ｗ ａ ｙ ， Ｎ Ｊ ： Ｉ Ｅ Ｅ Ｅ ，２ ０ １ ０ ： ２ ５ ２ ８ － ２ ５ ３ ５［ ２ ７ ］ Ｃ ｏ ａ ｔ ｅ ｓ 　Ａ ，Ｎ ｇ Ａ． Ｔ ｈ ｅ 　Ｉ ｍ ｐ ｏ ｒ ｔ ａ ｎ ｃ ｅ 　ｏ ｆ 　ｅ ｎ ｃ ｏ ｄ ｉ ｎ ｇ 　 ｖ ｅ ｒ ｓ ｕ ｓ 　ｔ ｒ ａ ｉ ｎ ｉ ｎ ｇｗ ｉ ｔ ｈ 　ｓ ｐ ａ ｒ ｓ ｅ 　ｃ ｏ ｄ ｉ ｎ ｇ 　 ａ ｎ ｄ 　ｖ ｅ ｃ ｔ ｏ ｒ 　ｑ ｕ ａ ｎ ｔ ｉ ｚ ａ ｔ ｉ ｏ ｎ ［Ｃ ］ ? ? Ｐ ｒ ｏ ｃ 　ｏ ｆ 　ｔ ｈ ｅ２ ８ ｔ ｈ 　Ｉ ｎ ｔ 　Ｃ ｏ ｎ ｆ 　ｏ ｎ 　Ｍ ａ ｃ ｈ ｉ ｎ ｅ 　Ｌ ｅ ａ ｒ ｎ ｉ ｎ ｇ ．Ｎ ｅ ｗ　Ｙ ｏ ｒ ｋ ： Ａ ＣＭ ，２ ０ １ １ ： ９ ２ １ － ９ ２ ８［ ２ ８ ］ Ｂ ｏ 　Ｌ ｉ ｅ ｆ ｅ ｎ ｇ ， Ｒ ｅ ｎ 　Ｘ ｉ ａ ｏ ｆ ｅ ｎ ｇ ， Ｆ ｏ ｘ 　Ｄ．Ｋ ｅ ｒ ｎ ｅ ｌ 　ｄ ｅ ｓ ｃ ｒ ｉ ｐ ｔ ｏ ｒ ｓ 　ｆ ｏ ｒｖ ｉ ｓ ｕ ａ ｌ 　ｒ ｅ ｃ ｏ ｇ ｎ ｉ ｔ ｉ ｏ ｎ ［ Ｃ ］ ? ? Ｐ ｒ ｏ ｃ 　ｏ ｆ 　ｔ ｈ ｅ 　２ ４ ｔ ｈ 　Ｃ ｏ ｎ ｆ 　ｏ ｆ 　Ａ ｄ ｖ ａ ｎ ｃ ｅ ｓ 　ｉ ｎＮ ｅ ｕ ｒ ａ ｌ 　Ｉ ｎ ｆ ｏ ｒ ｍ ａ ｔ ｉ ｏ ｎ 　Ｐ ｒ ｏ ｃ ｅ ｓ ｓ ｉ ｎ ｇ 　 Ｓ ｙ ｓ ｔ ｅ ｍ ｓ ． Ｒ ｏ ｓ ｔ ｒ ｅ ｖ ｏ ｒ ， Ｉ ｒ ｅ ｌ ａ ｎ ｄ ：Ｃ ｕ ｒ ｒ ａ ｎ 　Ａ ｓ ｓ ｏ ｃ ｉ ａ ｔ ｅ ｓ ， Ｉ ｎ ｃ ， ２ ０ １ ０ ： ２ ４ ４ － ２ ５ ２［ ２ ９ ］ Ｂ ｏ ｕ ｒ ｅ ａ ｕ 　Ｙ ， Ｂ ａ ｃ ｈ 　Ｆ ， Ｌ ｅ Ｃ ｕ ｎ 　Ｙ ， ｅ ｔ 　ａ ｌ ．Ｌ ｅ ａ ｒ ｎ ｉ ｎ ｇ 　 ｍ ｉ ｄ － ｌ ｅ ｖ ｅ ｌｆ ｅ ａ ｔ ｕ ｒ ｅ ｓ 　ｆ ｏ ｒ 　ｒ ｅ ｃ ｏ ｇ ｎ ｉ ｔ ｉ ｏ ｎ ［ Ｃ ］ ? ? Ｐ ｒ ｏ ｃ 　ｏ ｆ 　ｔ ｈ ｅ 　２ ３ ｒ ｄ 　Ｉ Ｅ Ｅ Ｅ 　Ｃ ｏ ｎ ｆ 　ｏ ｎＣ ｏ ｍ ｐ ｕ ｔ ｅ ｒ 　Ｖ ｉ ｓ ｉ ｏ ｎ 　ａ ｎ ｄ 　Ｐ ａ ｔ ｔ ｅ ｒ ｎ 　Ｒ ｅ ｃ ｏ ｎ ｇ ｎ ｉ ｔ ｉ ｏ ｎ． Ｐ ｉ ｓ ｃ ａ ｔ ａ ｗ ａ ｙ ， Ｎ Ｊ ：Ｉ Ｅ Ｅ Ｅ ， ２ ０ １ ０ ： ２ ５ ５ ９ － ２ ５ ６ ６［ ３ ０ ］ Ｍ ｃ Ｃ ａ ｎ ｎ 　Ｓ ， Ｌ ｏ ｗ ｅ 　Ｄ．Ｌ ｏ ｃ ａ ｌ 　ｎ ａ ｉ ｖ ｅ 　ｂ ａ ｙ ｅ ｓ 　ｎ ｅ ａ ｒ ｅ ｓ ｔ 　ｎ ｅ ｉ ｇ ｈ ｂ ｏ ｒ 　ｆ ｏ ｒｉ ｍ ａ ｇ ｅ 　ｃ ｌ ａ ｓ ｓ ｉ ｆ ｉ ｃ ａ ｔ ｉ ｏ ｎ ［ Ｃ ］ ? ? Ｐ ｒ ｏ ｃ 　ｏ ｆ 　ｔ ｈ ｅ 　２ ５ ｔ ｈ 　Ｉ Ｅ Ｅ Ｅ 　Ｃ ｏ ｎ ｆ 　ｏ ｎＣ ｏ ｍ ｐ ｕ ｔ ｅ ｒ 　Ｖ ｉ ｓ ｉ ｏ ｎ 　ａ ｎ ｄ 　Ｐ ａ ｔ ｔ ｅ ｒ ｎ 　Ｒ ｅ ｃ ｏ ｇ ｎ ｉ ｔ ｉ ｏ ｎ． Ｎ ｅ ｗ　Ｙ ｏ ｒ ｋ ：Ａ ＣＭ ， ２ ０ １ ２ ： ３ ６ ５ ０ － ３ ６ ５ ６［ ３ １ ］ Ｓ ｏ ｈ ｎ 　ｋ ， Ｊ ｕ ｎ ｇ 　 Ｄ ， Ｌ ｅ ｅ 　Ｈ ， ｅ ｔ 　ａ ｌ ． Ｅ ｆ ｆ ｉ ｃ ｉ ｅ ｎ ｔ 　ｌ ｅ ａ ｒ ｎ ｉ ｎ ｇ 　 ｏ ｆ 　ｓ ｐ ａ ｒ ｓ ｅ ，ｄ ｉ ｓ ｔ ｒ ｉ ｂ ｕ ｔ ｅ ｄ ， ｃ ｏ ｎ ｖ ｏ ｌ ｕ ｔ ｉ ｏ ｎ ａ ｌ 　ｆ ｅ ａ ｔ ｕ ｒ ｅ 　ｒ ｅ ｐ ｒ ｅ ｓ ｅ ｎ ｔ ａ ｔ ｉ ｏ ｎ ｓ 　ｆ ｏ ｒ 　ｏ ｂ ｊ ｅ ｃ ｔｒ ｅ ｃ ｏ ｇ ｎ ｉ ｔ ｉ ｏ ｎ ［ Ｃ ］ ? ? Ｐ ｒ ｏ ｃ 　ｏ ｆ 　ｔ ｈ ｅ 　２ ０ １ １Ｉ ｎ ｔ 　Ｃ ｏ ｎ ｆ 　ｏ ｎ 　Ｃ ｏ ｍ ｐ ｕ ｔ ｅ ｒＶ ｉ ｓ ｉ ｏ ｎ．Ｎ ｅ ｗ　Ｙ ｏ ｒ ｋ ： Ａ ＣＭ ， ２ ０ １ １ ： ２ ６ ４ ３ － ２ ６ ５ ０