基于深度神经网络的多尺度特征提取方法

西北大学学报（自然科学版）　２０１７年４月，第４７卷第２期，Ａｐｒ．，２０１７，Ｖｏ１．４７，Ｎｏ．２　Ｊｏｕｒｎａｌ　ｏｆ　Ｎｏｒｔｈｗｅｓｔ　Ｕｎｉｖｅｒｓｉｔｙ（Ｎａｔｕｒａｌ　Ｓｃｉｅｎｃｅ　Ｅｄｉｔｉｏｎ：　信息科学　基于深度神经网络的多尺度特征提取方法　任荣荣　，周明全　，耿国华　，刘晓宁　，王　恒　（１．西北大学信息科学与技术学院，陕西西安７１０１２７；２．北京师范大学信息科学与技术学院，北京　１００８７５）　摘要：针对传统特征提取方法不能很好地表示左右不对称和弯曲叶片图像信息的问题，提　出一种基于深度神经网络的多尺度特征提取方法。首先借鉴空间金字塔匹配模型思想，　提取各个空间子区域的高阶Ｚｅｒｎｉｋｅ矩特征，使用滑动圆形窗口提取对象域的极坐标傅里　叶变换描述子；其次将Ｚｅｒｎｉｋｅ矩和傅里叶特征作为深度神经网络的输入向量获取深度抽　象特征。实验结果表明，与多种特征提取方法相比，该方法具有较好的特征表示性能。　关键词：Ｚｅｒｎｉｋｅ矩；极坐标傅里叶变换；深度神经网络；支持向量机　中图分类号：ＴＪ５５；ＴＰ１８　文献标识码：Ａ　ＤＯＩ：１０．１６１５２／ｊ．ｃｎｋｉ．ｘｄｘｂｚｒ．２０１７－０２－０１１　Ｔｈｅ　ｍｕｌｔｉ．ｓｃａｌｅ　ｆｅａｔｕｒｅｓ　ｅｘｔｒａｃｔｉｏｎ　ｍｅｔｈｏｄ　ｂａｓｅｄ　ｏｎ　ｄｅｅｐ　ｎｅｕｒａｌ　ｎｅｔｗｏｒｋ　ＲＥＮ　Ｒｏｎｇｒｏｎｇ　，ＺＨＯＵ　Ｍｉｎｇｑｕａｎ　，ＧＥＮＧ　Ｇｕｏｈｕａ　，ＬＩＵ　Ｘｉａｏｎｉｎｇ　，ＷＡＮＧ　Ｈｅｎｇ　（１．Ｓｃｈｏｏｌ　ｏｆ　Ｉｎｆｏｒｍａｔｉｏｎ　Ｓｃｉｅｎｃｅ　ａｎｄ　Ｔｅｃｈｎｏｌｏｇｙ，Ｎｏｒｔｈｗｅｓｔ　Ｕｎｉｖｅｒｓｉｔｙ，Ｘｉ　ａｎ　７１０１２７，Ｃｈｉｎａ；　２．Ｃｏｌｌｅｇｅ　ｏｆ　Ｉｎｆｏｒｍａｔｉｏｎ　Ｓｃｉｅｎｃｅ　ａｎｄ　Ｔｅｃｈｎｏｌｏｇｙ，Ｂｅｉｊｉｎｇ　Ｎｏｒｍａｌ　Ｕｎｉｖｅｒｓｉｔｙ，Ｂｅｉｊｉｎｇ　１００８７５，Ｃｈｉｎａ）　Ａｂｓｔｒａｃｔ：Ｆｏｒ　ｔｈｅ　ｐｒｏｂｌｅｍ　ｔｈａｔ　ｔｒａｄｉｔｉｏｎａｌ　ｆｅａｔｕｒｅ　ｅｘｔｒａｃｔｉｏｎ　ｍｅｔｈｏｄｓ　ｃａｎ　ｎｏｔ　ｅｘｐｒｅｓｓ　ｔｈｅ　ｉｎｆｏｒｍａｔｉｏｎ　ｏｆ　ｔｈｅ　ａ－　ｓｖｍｍｅｔｒｉｃａｌ　ａｎｄ　ｃｕＩ、，ｅｄ　ｂｌａｄｅ　ｗｅｌ１．ａ　ｎｅｗ　ｃｌａｓｓｉｆｉｃａｔｉｏｎ　ｍｅｔｈｏｄ　ｏｆ　ｍｕｌｔｉ．ｓｃａｌｅ　ｆｅａｔｕｒｅ　ｅｘｔｒａｃｔｉｏｎ　ｂａｓｅｄ　ｏｎ　ｄｅｅｐ　ｎｅｕｒａｌ　ｎｅｔｗｏｒｋ　ｉｓ　ｐｒｏｐｏｓｅｄ．Ｆｉｒｓｔｌｙ，ｔｈｅ　ｈｉｇｈ－ｏｒｄｅｒ　Ｚｅｒｎｉｋｅ　ｆｅａｔｕｒｅｓ　ｍｏｍｅｎｔ　ｉｓ　ｅｘｔｒａｃｔｅｄ　ｂａｓｅｄ　ｏｎ　ｓｐａｔｉａｌ　ｐｙｒａ—　ｍｉｄ　ｍａｔｃｈｉｎｇ　ｍｏｄｅｌ　ｆｒｏｍ　ｔｈｅ　ｓｐａｔｉａｌ　ｒｅｇｉｏｎｓ　ｉｎ　ｔｈｅ　ｐｙｒａｍｉｄ　ｓｅｇｍｅｎｔａｔｉｏｎ，ｔｈｅ　ｐｏｌａｒ　Ｆｏｕｒｉｅｒ　ｄｅｓｃｒｉｐｔｏｒ　ｏｆ　ｔｈｅ　ｏｂｊｅｃｔ　ｒｅｇｉｏｎｓ　ｂｙ　ｕｓｉｎｇ　ｓｌｉｄｉｎｇ　ｗｉｎｄｏｗ．Ｓｅｃｏｎｄｌｙ，ｉｎ　ｏｒｄｅｒ　ｔｏ　ｏｂｔａｉｎ　ｔｈｅ　ａｂｓｔｒａｃｔ　ｆｅａｔｕｒｅｓ　ｏｆ　ｔｈｅ　ｄｅｅｐ　ｎｅｕｒ￣　ｎｅｔｗｏｒｋ，ｔｈｅ　Ｚｅｒｎｉｋｅ　ｍｏｍｅｎｔ　ａｎｄ　ｔｈｅ　ｐｏｌａｒ　Ｆｏｕｒｉｅｒ　ｄｅｓｃｒｉｐｔｏｒ　ａｒｅ　ｓｅｔ　ａｓ　ｔｈｅ　ｉｎｐｕｔ　ｖｅｃｔｏｒ　ｏｆ　ｔｈｅ　ｄｅｅｐ　ｎｅｕｒａｌ　ｎｅｔｗｏｒｋ．Ｆｉｎａｌｌｙ，ｔｈｅ　ｒｅｃｏｇｎｉｔｉｏｎ　ｏｆ　ｔｈｅ　ｐｌａｎｔｓ　ｉｓ　ａｃｈｉｅｖｅｄ　ｔｈｒｏｕｇｈ　ｔｈｅ　ｓｕｐｐｏ￣ｖｅｃｔｏｒ　ｍａｃｈｉｎｅ　ｂａｓｅｄ　ｏｎ　ｐｒｏｂａ‘　ｂｉｌｉｔｙ．Ｃｏｍｐａｒｅｄ　ｗｉｔｈ　ａ　ｖａｒｉｅｔｙ　ｏｆ　ｆｅａｔｕｒｅ　ｅｘｔｒａｃｔｉｏｎ　ｍｅｔｈｏｄｓ，ｔｈｅ　ｅｘｐｅｒｉｍｅｎｔ　ｒｅｓｕｌｔｓ　ｓｈｏｗ　ｔｈａｔ　ｔｈｅ　ｐｒｏｐｏｓｅｄ　ａｌ—　ｇｏｒｉｔｈｍ　ｃａｎ　ｒｅａｃｈ　ｈｉｇｈｅｒ　ａｃｃｕｒａｃｙ　ｒａｔｅ．　Ｋｅｙ　ｗｏｒｄｓ：Ｚｅｒｎｉｋｅ　ｍｏｍｅｎｔ；ｐｏｌａｒ　Ｆｏｕｒｉｅｒ　ｄｅｓｃｒｉｐｔｏｒ；ｄｅｅｐ　ｎｅｕｒａｌ　ｎｅｔｗｏｒｋ；ｓｕｐｐｏｒｔ　ｖｅｃｔｏｒ　ｍａｃｈｉｎｅ　地球上现存３５万多种高等植物和３　１万未知　植物物种，任何人包括植物学家都不能很容易识　别这些物种。因此，利用计算机辅助识别植物种　类必然成为未来趋势。　根据叶片识别植物是一种直接有效的方法，　特征表示性能和分类器的选取直接影响分类效　果。在特征提取方面，Ｈａｒｉｓｈ　，ｗｕ　，Ｋｕｌｋａｒ．　ｎｉ［３　及Ｋａｄｉｒ［　提出利用数字几何特征描述叶轮　收稿日期：２０１６－０４—１８　基金项目：国家自然科学基金资助项目（６１３７３１１７）；高等学校博士学科点专项科研基金资助项目　（２０１３６１０１　１　１００１９）；研究生自主创新基金资助项目（ＹＺＺ１５０９８）　作者简介：任荣荣，女，河南濮阳人，从事图形图像处理、模式识别研究。　西北大学学报（自然科学版）　第４７卷　廓、纹理等信息，并在Ｆｌａｖｉａ数据集上进行测试，　最高正确率可达到９３．８２％；然而提取轮廓　线¨　时不可避免地存在各种误差，导致特征表　示性能降低。因此，Ｓｆａｒｌ　和Ｈｕ＿８　提出利用对象　夹角，Ｒ　（Ｐ）为点（　，Ｙ）径向多项式。　单位圆内的任何图像ｌ厂（　，Ｙ）都可以用式（４）　表示，　Ｊ＝∑∑ｚ朋　（ｐ，　）。　（４）　相似性和后验概率提升表示性能。分类器选取方　面，概率神经网络（ＰＮＮ）　一ｌｏ］和支持向量机　（ＳＶＭ）　…是最常用的分类器，ＤｕＬ６　和　Ｚｈａｎｇ¨　提出移动平均超球面和ＳＶＭ＋ＫＮＮ融　合处理多分类问题。　传统方法不能很好地表示左右不对称和弯曲　叶片的特征，针对该问题借鉴ＳＰＭ（Ｓｐａｔｉａｌ　ｐｙｒａ—　ｍｉｄ　ｍａｔｃｈｉｎｇ）　１３］分层思想，将图像均等分割，提　取各个空间子区域的高阶Ｚｅｒｎｉｋｅ矩特征，提出使　用滑动圆形窗口识别对象域，并基于该对象域提　取极坐标傅里叶描述子，将Ｚｅｒｎｉｋｅ矩¨　和极坐　标傅里叶特征　作为深度神经网络　的输入层　向量，进一步提取优化后的深度抽象特征，在多个　经典数据集随机选取不同比例的训练集和测试　集，与多种经典特征提取方法进行比较，实验结果　表明，该方法提取的特征能够较好地表示对象。　１　理论基础　Ｚｅｒｎｉｋｅｌ１’　是多项式的正交化函数，该特征具　有旋转不变性和较小数据冗余等优势。但其特征　值仅满足旋转不变性，当采用Ｚｅｒｎｉｋｅ矩作为形状　描述子时，须对其进行归一化，使其满足平移和尺　度不变性。因此，文中将归一化后的高阶Ｚｅｒｎｉｋｅ　矩作为特征描述子。　设图像函数为，＝ｌ厂（　，Ｙ），Ｚｅｒｎｉｋｅ矩多项表　达式｛ｚ　。（　，Ｙ）Ｉ［１　为　：　ＩＶ；ｑ（ｐ，Ｏ）ｄ　ｄｙ，　（１）　Ｚ　（　，Ｙ）＝　（Ｐ，０）＝Ｒ　（Ｐ）ｅｘｐ（ｊｍＯ），　（２）　（Ｐ）＝∑（一１）　Ｘ　ｓ　（　（ｐ　））－　（　ｓ（一ｓ　）　！一ｓ一　））　　ｐ　。（一　３）　其中，Ｐ为阶数，ｑ为重复率，Ｐ—ｌ　ｑ　ｌ是偶数，且Ｐ　≥ｑ，　（　，Ｙ）为复数函数，Ｐ表示原点到点（　，Ｙ）　的矢量长度，０表示这个矢量与　轴逆时针方向的　将图像质心看作原点，并将像素坐标投射到　单位圆内，如果　＋Ｙ　≤１，统计单位圆内的像素　点数。　１．２　极坐标傅里叶变换　ＰＦＴ特征能较好地描述目标形状和环状特　征，且抗干扰能力强，通用性高。因此，文中选用　Ｋａｄｉｒ　提出的ＰＦＴ特征表示图像，该特征满足　ＲＳＴ不变性。可描述为　ＰＦ：（ｐ，咖）＝　，（ｐ　）ｅｘｐ［ｊ２　（去）ｐ＋　］。（５）　其中，０≤ｒ＜　，，０　＝ｉ（　），０≤ｉ＜　，０≤Ｐ＜　ｊ　，０≤　＜　，　是径向频率，　是角频率的分辨　率。　设图像，＝｛－厂（　，Ｙ）；０≤　＜Ｍ，０≤Ｙ＜Ｎ｝，　将图像投射到极坐标　：｛　ｒ，０）；０≤ｒ＜Ｒ…，　０≤０＜２霄｝上，Ｒ　为图像轮廓质心到轮廓线的　最大半径。图像质心坐标（　，Ｙ　）为　１　Ｍ一１　１Ⅳ一１　ｃ　ｙｃ　。　（６）　ｒ和０表达式为　ｒ＝√（　—　。）　＋（Ｙ—Ｙ　）　，　（７）　０：ａｒｃ　ｔａｎ　。　（８）　一　为了实现ＰＦＴ的尺度不变性，对　进行傅里　叶变换，得到变换系数数列ＰＦ，采用式（９）归一　化表示，　＝　…，　，，　ＰＦ（０，Ｔｃ）ＰＦ（Ｒ，，０）　ＰＦ（０，０）’ＰＦ（０，０）　ＰＦ（尺ｆ，　）　———ＰＦ（Ｏ，——　竺　—　０）　＿｜｝　（９）　其中，　，是径向频率最大值，　是三角频率最　ｌｎａＸ　ｌｎａｘ　大值。　２　ＭＳＦ方法　ＭＳＦ（Ｍｕｌｔｉ—ｓｅａｌｅ　ｆｅａｔｕｒｅｓ）方法首先对预处理　第２期　任荣荣等：基于深度神经网络的多尺度特征提取方法　后的图像利用ＳＰＭ分层策略均等分割，如图１所　示，提取Ｌ０，Ｌ。，Ｌ！层的高阶Ｚｅｒｎｉｋｅ矩特征，利用　图２所示。图３描述了经ＰＣＡ降维后的Ｌ：层５５　个特征值，贡献率设置为９５％。根据图３可知，　图２中相似植物种类在多个等特征下具有明显区　分度。　滑动圆形窗口检测对象区域，基于对象域提取　ＰＦＦＤ特征；其次，将Ｌ０，Ｌ１，Ｌ２层的Ｚｅｒｎｉｋｅ矩特　征和ＰＦＴＤ特征作为ＤＮＮ输入层向量，获取深度　网络抽象特征集；最后利用概率ＳＶＭ分类器实现　植物分类。　２．１图像预处理　采用灰度化、高斯滤波和形态学滤波对叶片　进行预处理。　＼　图２相似植物种类　Ｆｉｇ．２　Ｔｈｅ　ｓｉｍｉｌａｒ　ｐｌａｎｔ　ｓｐｅｃｉｅｓ　趔　１）灰度化。叶片颜色因时间、环境等不可忽　略的外部因素产生变化，直接影响识别效果。因　此，须对彩色图像进行灰度化处理。统计每个像　素点的灰度值　Ｇｒａｙ＝０．２９９　Ｒ＋０．５７８￥Ｇ＋０．１１４：Ｉ＝Ｂ．　（１０）　２）高斯滤波。由于数字图像在采集过程中　易受外界噪声干扰，采用高斯滤波算法消除离散　噪声。　聋　３）形态学滤波。对去噪后图像利用形态学　的开闭运算，一定程度上对缺损叶片进行了修复。　２．２特征提取　隆维后特征标号　２．２．１　Ｚｅｒｎｉｋｅ矩　Ｌｌ１，Ｌ１，Ｌ２层的２～１３的高阶　Ｚｅｒｎｉｋｅ矩特征分别表示为：　＝图３相似种类ｚ特征　Ｆｉｇ．３　Ｔｈｅ　ｚ　ｖａｈｌｅ　ｏｆ　ｔｈｅ　ｓｉｍｉｌａｒ　ｓｐｅｃｉｅｓ　［Ｘｌ，　２，…，　ｌ２］，　ｒ　Ｉ　ｌ　Ｉ　２　２　２　４　２．２．２　ＰＦＴＤ特征文中利用自适应阈值分割算　Ｙ　ｌＹ，，Ｙ２，…，Ｙｌ２，Ｙｌ，Ｙ２，…，Ｙｔ２，…，Ｙ，，　４　４］　法¨　获取对象域，将叶片长轴ｚ　作为横坐标轴，　短轴，ｚ　作为纵坐标轴，对象被分割成４个域，再　利用滑动圆形窗口在各个区域提取ＰＦＴＤ特征，　半径ｒ＝ｌ／４。　据Ｋａｄｉｒｌ】　实验结果可知：Ｒ　＝４，Ｔｒ＝６　ｙ！，…，Ｙ１２　Ｊ，　ｒ　１　Ｉ　ｌ　２　２　２　１６　ｚ　ｌ　１，Ｚ２，…￣Ｚ＇１２，ｚｌ，Ｚ２’…＇　ｌ　２，…，　】＇　２，…，０ｌ！Ｊ。　１６　１６　其中，Ｙ　＝［Ｙ　，Ｙ　，…，　］，ｉ＝１，２，３，４，表示Ｌ　层第ｉ个空间域的１２个Ｚｅｒｎｉｋｅ矩特征，　＝［　，　…时取得最佳分类效果，文中也设置相同参数。在　Ｆｌａｖｉａ数据集上共提取４００个ＰＦＦＤ特征。为了　简化计算，经ＰＣＡ降维后维度变为３１个。　，，　：］（　＝１，２，…，１６）表示Ｌ　层第　个空间　域的１２个Ｚｅｍｉｋｅ矩特征。　图４为相似种类的ＰＦＴＤ特征值，根据图４　可知相似种类在ＰＦＦＤ特征下区分度不明显，恰　与Ｚｅｒｎｉｋｅ矩特征互补。　２．２．３深度网络抽象特征为了训练对象本质　特征，采用包含瓶颈层的ＤＮＮ¨　进行特征优化，　Ｌｌ　Ｌ　瓶颈层包含节点数最少，因此，将该层节点值作为　输入向量的低维表示。图５为深度神经网络架　图１　ＳＰＭ示意图　Ｆｉｇ．１　Ｔｈｅ　ｄｉａｇｒａｍ　ｏｆ　ｓｐａｔｉａｌ　ｐｙｒａｍｉｄ　ｍａｔｃｈｉｎｇ　构。　文中将每幅图像多尺度下的Ｚｅｒｎｉｋｅ矩和　任选Ｆｌａｖｉａ数据集中３类相似植物种类，如　ＰＦＴＤ特征排列成列向量　，所有输入的ｎ维图像　・２１８・　西北大学学报（自然科学版）　第４７卷　馨　隆维后特征标号　图４相似种类ＰＦＴＤ特征　Ｆｉｇ．４　ｎ１ｅ　ＰＦＴＤ　ｖａｌｕｅ　ｏｆ　ｔｈｅ　ｓｉｍｉｌａｒ　ｓｐｅｃｉｅｓ　第２隐层　隐层　层　图５深度神经ｌ网络架构　Ｆｉｇ．５　Ｔｈｅ　ａｒｃｈｉｔｅｃｔｕｒｅ　ｏｆ　ｔｈｅ　ｄｅｅｐ　ｎｅｕｒａｌ　ｎｅｔｗｏｒｋ　构成特征矩阵ｘ＝（　，　，…，　）　，作为ＤＮＮ原　始输入数据，ＤＮＮ结构为１个输入层，　个隐含层　和１个输出层，第１隐含层的状态为　Ｊ　ｈ】＝ｏｒ（ｗＴ　Ｘ＋ｂ１）。　（１１）　其中，ｗ　为输入层与第１隐层间神经元的链接权　值，ｂ　为第１隐层的网络偏置，　）＝　。　（１２）　对于一个由ｋ个隐含层组成的深层网络，采　用贪婪算法逐层初始化，求解第ｋ／２隐层即瓶颈　层的参数值，　ｆ　＝　／（　＋ｅｘｐ（一　ｗＴ＋６　）），　（１３）　ｔｈｏ＝Ｘ，Ｖ　ｉ∈｛１，２，３，…，ｋ／２｝。　根据神经网络的反向传播性质得到全局最优　权值向量，　ｊ（ｗ，６）＝［　ｊ（ｗ，６’　ｙ“　）］＋　Ａ　。　（１４）　＿，（　）＝　［　胛’６．　’　，　邶　＝　．，（Ｗ，ｂ；　‘“，Ｙ‘　），　）＝　一　（　）。　（１５）　其中，＿，（Ｗ，ｂ）是损失函数，Ｏ／是步长系数。　图６描述了相似植物种类特征经ＤＮＮ优化　后的特征值变化，可知优化后的特征使得特征区　分度更加显著。　：四　鼗　特征标号　图６相似种类ｄｎ特征　Ｆｉｇ．６　Ｔｈｅ　ｄｎ　ｖａｌｕｅ　ｏｆ　ｔｈｅ　ｓｉｍｉｌａｒ　ｓｐｅｃｉｅｓ　２．３分类器集成　由于ＳＶＭ对小样本和非线性问题具有良好　的适应性　。因此，ＭＳＦ方法采用由Ｌｉｎ等开发　的ＬＩＢＳＶＭ工具箱①。设叶片种类有ｋ类，多尺度　特征集［　，Ｙ，ｚ，ｐｆｔｄ，ｄｎ］，则５个特征，　个类别的　样本共需设计５ｋ（ｋ一１）／２个ＳＶＭ分类器。其中，　ｐｆｔｄ由４个区域统计ＰＦＴＤ特征构成；ｄｎ由瓶颈　层特征构成。　对某一待测样本分类时，通过ＳＶＭ获取［Ｘ，　Ｙ，ｚ，ｐｆｔｄ，ｄｎ］各个特征对应的决策值行向量　…　＿１］　）（　＝１，２，３，４，５）。利用算法１获取所　有特征［Ｘ，Ｙ，ｚ，ｐｆｔｄ，ｄｎ］组成的５　ｋ概率矩阵　Ｍ５　＝［Ｃ。；Ｃ：；Ｃ，；Ｃ４；Ｃ　］。ｃ　表示在第ｉ个特征　下待测样本属于某一类的ｋ维向量。　算法１　决策值矩阵转化为概率矩阵算法　输入　待测样本在第ｉ个特征下对应的ｋ（　一１）／２维决策值行向量曰　＿１］　。　第２期　任荣荣等：基于深度神经网络的多尺度特征提取方法　输出　待测样本属于某一类的ｋ维概率行向　量ＣⅢ。　步骤１　初始化零矩阵　Ｉ¨　Ａ　。　步骤２　行向量按行转化为Ａ　的上三角矩　阵。　步骤３　当Ａ（ｉ　，　）＞０，Ａ（ｉ　，　）属于第ｉ　类；当Ａ（ｉ　，　）＜０，Ａ（ｉ　，　）属于第／类。根据　Ａ　统计该样本属于第ｑ类的概率，Ｃ（ｑ）＝　Ｎ（ｑ）／（ｋ（ｋ一１）／２）。其中，Ｎ（ｑ）为该样本判别　为第ｇ类的ＳＶＭ子分类器数量，ｑ＝１，２，…，ｋ，　Ｃ（ｑ）为该样本在第ｉ个特征下判定为ｇ类的行向　量，执行　：ｉ＋ｉ直到ｉ＝５结束。　对每个特征［　，Ｙ，Ｚ，ｐｆｔｄ，ｄｎ］对应每类的概　率值从大到小排序，获取各个特征的前３个最大　特征值对应的类别Ｃ（ｉ　），ｉ　＝１，２，…，１５，依据　ｃ（ｉ　）统计样本属于第ｑ类的数量Ｍ（ｑ），则该待　测样本类别为　ｑ　＝ａｒｇ　ｍａｘ｝Ｍ（ｇ）｝。　３实验及结果分析　为了验证ＭＳＦ的有效性，采用Ｆｌａｖｉａ和　Ｓｗｅｄｉｓｈ数据集进行测试，与文献［８］提出的ＭＤＭ　算法，以及文献［１８］和［２１］的算法进行实验比　较。其中，Ｆｌａｖｉａ数据集共包括１　９０７张图像大小　不同及每类数量不等的３２种植物种类；Ｓｗｅｄｉｓｈ　数据集共包括１　１２５张图像及每类７５张图像的　１５种植物。　３．１参数设置　采用Ｌｉｂｓｖｍ工具箱自带ＲＢＦ核函数的Ｃ—　ｓｖｍ算法，正则参数ｃ∈｛４　。，４一，…，４　，４ｍ｝，核　函数ｇ∈｛４　。，４一，…，４　，４加｝，利用枚举法获得　最优分类效果最佳参数Ｃ＝４　与ｇ＝４　。　３．２结果对比分析　实验中采用与文献［８］相同降维方法　ＤＮＭ＿２　，并采用ＰＣＡ和ＬＤＡ降维方法在Ｆｌａｖｉａ　和Ｓｗｅｄｉｓｈ数据集进行多组测试，与文献［１８］和　［２１］方法进行了对比，由于文献［１８］和［２１］特征　维度较低，因此未对其降维处理。　表１中选取与Ｈｕ＿１　相同比例的Ｓｗｅｄｉｓｈ数　据集，使用ＤＮＭ和最近邻进行分类，文献［１８］和　［２１］直接使用最近邻分类，Ｘ％／Ｙ％表示随机选　取　％作为训练集，剩余　作为测试集，　＋Ｙ＝　１００。表２中随机选取不同比例的Ｆｌａｖｉａ数据集，　使用ＰＣＡ，ＤＮＭ，ＬＤＡ降维和ＳＶＭ分类器进行分　类；表３中随机选取不同比例的Ｆｌａｖｉａ数据集，均　用ＰＣＡ进行降维，将ＳＶＭ，ＮＮ及文中分类方法进　行对比分析。其中，ＭＤＭ—ＣＤ，ＭＤＭ～Ａ，　ＭＤＭ—Ｃ，ＭＤＭＭ，ＭＤＭＲＡ，ＭＤＭ—ＲＭ是　文献［８］中距离矩阵ＭＤＭ的６种扩展形式，　＝［Ｘ；　；ｚ］；Ｆ＝［Ｌ，ｐｆｔｄ，ｄｎ］；未归一化特征为　ＮＦ；归一化特征为ＹＦ；ｄｎ表示瓶颈层特征。　表１　Ｓｗｅｄｉｓｈ数据集分类结果　Ｔａｂ．】Ｔｈｅ　ｃｌａｓｓｉｉｆｃａｔｉｎＴ１　ｒｅｓｕｈｓ　ｏｎ　ｔｈ　Ｓｗｅｄｉｓｈ　ｄａｔａｓｅｔ　％　ＭＤＭ算法针对左右对称和完全伸展的叶片　具有较好效果，但对于不对称及缺损叶片具有明　显的局限性，由表１可知。表１采用与Ｈｕ　相同　的参数设置，文中特征与Ｈｕ＿８　所有特征相比正确　率提高约１２％，与文献［８］和［２１］相比提高约　６％。文献［８］和［２１］根据几何形态学数值计算　提取特征，对轮廓线的提取精度要求较高，然而现　存轮廓线提取算法不可避免地存在误差，文中方　法对轮廓线精度要求不高，减少了数字几何特征　对分类效果的影响。由于细粒度Ｚｅｒｎｉｋｅ矩特征　和ＰＦＴＤ特征维度过高且奇异点和噪声点严重影　响分类精度。因此，文中采取了多种降维方法，排　除噪点降维后特征分类性能获得了较好地改善，　由表２的分类效果可知。表３在Ｆｌａｖｉａ数据集上　将文中提取的神经网络优化后特征与ＭＤＭ距离　特征进行对比，并利用本文设计的基于概率的　ＳＶＭ与其他分类器相比具有较优且鲁棒的分类　效果；表４在Ｆｌａｖｉａ数据集上随机选取９０％的训　练样本，文中提取的多尺度Ｆ特征在各种分类器　下进行训练分类，从分类效果可见ＭＳＦ算法针对　缺损叶片和未伸展叶片具有一定优势。　西北大学学报（自然科学版）　表２　Ｆｌａｖｉａ数据集不同降维方法的ＳＶＭ分类结果　Ｔａｂ．２　Ｒｅｓｕｌｔｓ　ｏｎ　ｔｈｅ　Ｆｌａｖｉａ　ｄａｔａｓｅｔ　ｗｉｔｈ　ｖａｒｉｏｕｓ　ｄｉｍｅｎｓｉｏｎ　ｒｅｄｕｃｔｉｏｎ　ｍｅｔｈｏｄ　ｉｎ　ｔｈｅ　ＳＶＭ　ｃｌａｓｓｉｆｉｅｒ　第４７卷　％　表４　Ｆｌａｖｉａ数据集上ＭＳＦ与其他方法分类结果　Ｔａｂ．４　Ｒｅｓｕｌｔｓ　ｏｎ　ｔｈｅ　Ｆｌａｖｉａ　ｄａｔａｓｅｔ　ｗｉｔｈ　ＭＳＦ　ａｎｄ　ｏｔｈｅｒ　该方法可达到约９６．６９％的准确率。因此，文中　ｍｅｔｈｏｄｓ　％　方法针对缺损叶片、弯曲叶片和左右不对称叶片　也具有很好的分类效果。　４　结　论　实验表明：该方法归一化后的Ｚｅｒｎｉｋｅ，ＰＦｒＤ　和ＤＮＮ特征均满足ＲＳＴ不变性；ＳＰＭ的分层策　针对左右不对称和弯曲叶片图像特征表示性　能不佳问题，提出了基于深度神经网络的多尺度　略有效地将全局特征和局部特征进行融合，保留　了更多的对象信息；利用圆形滑动窗检测对象，并　在对象区域内提取ＰＦＴＤ特征，缩小特征提取范　围和计算量；仅利用形态学特征且不需要较多的　特征提取方法。首先，借鉴ＳＰＭ分层思想将图像　均等分割成多个特征层，基于该特征层提取高阶　Ｚｅｒｎｉｋｅ矩特征；利用滑动圆形窗口检测对象，在　对象域极坐标提取傅里叶描述子；Ｚｅｍｉｋｅ矩和极　坐标傅里叶描述子构成多尺度特征，再利用深度　数字几何计算，不需要考虑点对应问题，减少了特　征提取过程的时间复杂度；与多种分类方法相比，　第２期　任荣荣等：基于深度神经网络的多尺度特征提取方法　・２２１・　神经网络在该多尺度特征集上提取深度抽象特　征，实验数据表明，该特征能够较好地表示对象。　下一步工作是提取不同对象特征，提高特征表示　性能，并选用多种数据集进行实验研究。　参考文献：　［１］ＨＡＲＩＳＨ　Ｂ　Ｓ，ＨＥＤＧＥ　Ａ，ＶＥＮＫＡＴＥＳＨ　Ｏ，ｅｔ　ａ１．　Ｃｌａｓｓｉｆｉｃａｔｉｏｎ　ｏｆ　ｐｌａｎｔ　ｌｅａｖｅｓ　ｕｓｉｎｇ　ｍｏｒｒｈｏｌｏｇｉｅａｌ　ｆｅａ—　ｔｕｒｅｓ　ａｎｄ　ｚｅｒｎｉｋｅ　ｍｏｍｅｎｔｓ［Ｃ］／／Ａｄｖａｎｃｅｓ　ｉｎ　Ｃｏｍｐｕ—　ｉｒｎｇ，Ｃｏｍｍｕｎｉｃａｔｉｏｎｓ　ａｎｄ　Ｉｎｆｏｒｍａｔｉｃｓ，ＩＥＥＥ，２０１３：　１８２７．１８３１．　［２］ＷＵ　Ｓ　Ｇ，ＢＡＯ　Ｆ　Ｓ，ＸＵ　Ｅ　Ｙ，ｅｔ　１ａ．Ａ　ｌｅａｆ　ｒｅｃｏｇｎｉｔｉｏｎ　ａｌｇｏｒｉｔｈｍ　ｆｏｒ　ｐｌａｎｔ　ｃｌａｓｓｉｉｆｃａｔｉｏｎ　ｕｓｉｎｇ　ｐｒｏｂａｂｉｌｉｓｔｉｃ　ｎｅｕｒａｌ　ｎｅｔｗｏｒｋ［Ｃ］／／ＩＥＥＥ　Ｉｎｔｅｒｎａｔｉｏｎａｌ　Ｓｙｍｐｏｓｉｕｍ　ｏｎ　Ｓｉｇｎａｌ　Ｐｒｏｃｅｓｓｉｎｇ＆Ｉｎｆｏｒｍａｔｉｏｎ　Ｔｅｃｈｎｏｌｏｇｙ．ＩＥＥＥ．　２００７：１１—１６．　［３］ＫＵＬＫＡＲＮ　Ａ　Ｈ，ＲＡＩ　Ｈ　Ｍ，ＪＡＨＡＧＩＲＤＡＲ　Ｄ　Ｋ　Ａ，ｅｔ　ａ１．Ａ　ｌｅａｆ　ｒｅｃｏｇｎｉｔｉｏｎ　ｔｅｃｈｎｉｑｕｅ　ｆｏｒ　ｐｌａｎｔ　ｃｌａｓｓｉｉｆｃａｔｉｏｎ　ｕｓｉｎｇ　ＲＢＰＮＮ　ａｎｄ　Ｚｅｒｎｉｋｅ　ｍｏｍｅｎｔｓ［Ｊ］．Ｃｏｍｐｕｔｅｒ—　Ｍｅｄｉａｔｅｄ　Ｃｏｍｍｕｎｉｃａｔｉｏｎ，２０１３，２（１）：９８４－９８８．　［４］　ＫＡＤＩＲ　Ａ，ＮＵＧＲＯＨＯ　Ｌ　Ｅ，ＳＵＳＡＮＴＯ　Ａ，ｅｔ　ａ１．Ｎｅｕ—　ｒａｌ　ｎｅｔｗｏｒｋ　ａｐｐｌｉｃａｔｉｏｎ　ｏｎ　ｆｏｌｉａｇｅ　ｐｌａｎｔ　ｉｄｅｎｔｉｉｆｃａｔｉｏｎ　［Ｊ］．Ｓｐｒｉｎｇｅｒ　Ｉｎｔｅｒｎａｔｉｏｎａｌ　Ｈａｎｄｂｏｏｋｓ　ｏｆ　Ｅｄｕｃａｔｉｏｎ，　２０１３，１１（８）：１５—２２．　［５］　ＭＯＵＩＮＥ　Ｓ，ＹＡＨＩＡＯＵＩ　Ｉ，ＶＥＲＲＯＵＳＴ—ＢＬＯＮＤＥＴ　Ａ．Ａ　ｓｈａｐｅ・ｂａｓｅｄ　ａｐｐｒｏａｃｈ　ｆｏｒ　ｌｅａｆ　ｃｌａｓｓｉｆｉｃａｔｉｏｎ　ｕ・　ｓｉｎｇ　ｍｕｈｉｓｃａｌｅ　ｔｉｒａｎｇｕｌａｒ　ｒｅｐｒｅｓｅｎｔａｔｉｏｎ［Ｃ］∥Ｔｈｅ　Ｉｎ—　ｔｅｒｎａｔｉｏｎａｌ　Ｃｏｎｆｅｒｅｎｃｅ　ｏｎ　Ｍｕｈｉｍｅｄｉａ　Ｒｅｔｒｉｅｖａ１．Ｎｅｗ　Ｙｏｒｋ：ＡＣＭ，２０１３：１２７—１３４．　［６］ＤＵ　Ｊ　Ｘ，ＷＡＮＧ　Ｘ　Ｆ，ＺＨＡＮＧ　Ｇ　Ｊ．Ｌｅａｆ　ｓｈａｐｅ　ｂａｓｅｄ　ｐｌａｎｔ　ｓｐｅｃｉｅｓ　ｒｅｃｏｇｎｉｔｉｏｎ［Ｊ］．Ａｐｐｌｉｅｄ　Ｍａｔｈｅｍａｔｉｃｓ＆　Ｃｏｍｐｕｔａｔｉｏｎ，２００７，１８５，８８３—８９３．　［７］　ＲＥＪＥＢ　Ａ，ＢＯＵＪＥＭＡＡ　Ｎ，ＧＥＭＡＮ　Ｄ．Ｉｄｅｎｔｉｉｆｃａｔｉｏｎ　ｏｆ　ｐｌａｎｔｓ　ｆｒｏｍ　ｍｕｌｔｉｐｌｅ　ｉｍａｇｅｓ　ａｎｄ　ｂｏｔａｎｉｃａｌ　ｉｄｋｅｙｓ　［Ｃ］／／Ｔｈｅ　Ｉｎｔｅｒｎａｔｉｏｎａｌ　Ｃｏｎｆｅｒｅｎｃｅ　ｏｎ　Ｍｕｌｔｉｍｅｄｉａ　Ｒｅｔｉｒｅｖａ１．Ｎｅｗ　Ｙｏｒｋ：ＡＣＭ，２０１３：１９１－１９８．　［８］ＨＵ　Ｒ　Ｘ，ＪＩＡ　Ｗ，ＬＩＮＧ　Ｈ　Ｂ，ｅｔ　ａ１．Ｍｕｌｔｉｓｃａｌｅ　ｄｉｓ—　ｔａｎｃｅ　ｍａｔｉｒｘ　ｆｏｒ　ｆａｓｔ　ｐｌａｎｔ　ｌｅａｆ　ｒｅｃｏｇｎｉｔｉｏｎ［Ｊ］．ＩＥＥＥ　Ｔｒａｎｓａｃｔｉｏｎｓ　ｏｎ　Ｉｍａｇｅ　Ｐｒｏｃｅｓｓｉｎｇ，２０１２，２１（１　１）：　４６６７－４６７２．　［９］　ＫＡＤＩＲ　Ａ，ＳＡＮＴＯＳＡ　Ｐ　Ｉ，ＮＵＧＲＯＨＯ　Ｌ　Ｅ，ｅｔ　ａ１．　Ｅｘｐｅｒｉｍｅｎｔｓ　ｏｆ　ｚｅｒｎｉｋｅ　ｍｏｍｅｎｔｓ　ｆｏｒ　ｌｅａｆ　ｉｄｅｎｔｉｉｆｃａｔｉｏｎ　［Ｊ］．Ｔｈｅｏｒｅｔｉｃａｌ＆Ａｐｐｌｉｅｄ　Ｉｎｆｏｒｍａｔｉｏｎ　Ｔｅｃｈｎｏｌｏｇｙ，　２０１２，４１（１）：８２－９３．　［１０］ＫＡＤＩＲ　Ａ，ＮＵＧＲＯＨＯ　Ｌ　Ｅ，ＳＵＳＡＮＴＯ　Ａ，ｅｔ　ａ１．Ｆｏｌｉ－　ａｇｅ　ｐｌａｎｔ　ｒｅｔｉｒｅｖａｌ　ｕｓｉｎｇ　ｐｏｌａｒ　ｆｏｕｒｉｅｒ　ｔｒａｎｓｆｏｒｍ，ｃｏｌｏｒ　ｍｏｍｅｎｔｓ　ａｎｄ　ｖｅｉｎ　ｆｅａｔｕｒｅｓ［Ｊ］．Ｓｉｇｎａｌ＆Ｉｍａｇｅ　Ｐｒｏ－　ｃｅｓｓｉｎｇ，２０１１，２（３）：１—１３．　［１　１］ＱＵＡＤＲＩ　Ａ　Ｔ，ＳＩＲＳＨＡＲ　Ｍ．Ｌｅａｆ　ｒｅｃｏｇｎｉｔｉｏｎ　ｓｙｓｔｅｍ　ｕｓｉｎｇ　ｍｕｈｉ－ｃｌａｓｓ　ｋｅｎｒｅｌ　ｓｕｐｐｏｒｔ　ｖｅｃｔｏｒ　ｍａｃｈｉｎｅ［Ｊ］．　Ｃｏｍｐｕｔｅｒ　ａｎｄ　Ｃｏｍｍｕｎｉｃａｔｉｏｎ　Ｓｙｓｔｅｍ　Ｅｎｇｉｎｅｅｒｉｎｇ，　２０１５，２（２）：２６０－２６３．　［１２］ＺＨＡＮＧ　Ｈ，ＢＥＲＧ　Ａ　Ｃ，ＭＡＩＲＥ　Ｍ，ｅｔ　ａ１．ＳＶＭ—ＫＮＮ：　Ｄｉｓｃｒｉｍｉｎａｔｉｖｅ　ｎｅａｒｅｓｔ　ｎｅｉｇｈｂｏｒ　ｃｌａｓｓｉｆｉｃａｔｉｏｎ　ｆｏｒ　ｖｉｓｕａｌ　ｃａｔｅｇｏｒｙ　ｒｅｃｏｇｎｉｔｉｏｎ［Ｃ］∥ＩＥＥＥ　Ｃｏｍｐｕｔｅｒ　Ｓｏｃｉｅｔｙ　Ｃｏｎｆｅｒｅｎｃｅ　ｏｎ　Ｃｏｍｐｕｔｅｒ　Ｖｉｓｉｏｎ＆Ｐａｔｔｅｒｎ　Ｒｅｃｏｇｎｉ－　ｔｉｏｎ．ＩＥＥＥ，２００６，２：２１２６—２１３６．　［１３］ＬＡＺＥＢＮＩＫ　Ｓ，ＳＣＨＭＩＤ　Ｃ，ＰＯＮＣＥ　Ｊ．Ｂｅｙｏｎｄ　ｂａｇｓ　ｏｆ　ｆｅａｔｕｒｅｓ：Ｓｐａｔｉａｌ　ｐｙｒａｍｉｄ　ｍａｔｃｈｉｎｇ　ｆｏｒ　ｒｅｃｏｇｎｉｚｉｎｇ　ｎａｔ—　ｕｒｌａ　ｓｃｅｎｅ　ｃａｔｅｇｏｒｉｃ［Ｊ］．Ｃｏｍｐｕｔｅｒ　Ｖｉｓｉｏｎ　ａｎｄ　Ｐａｔｔｅｒｎ　Ｒｅｃｏｇｎｉｔｉｏｎ，２００６，２：２１６９—２１７８．　［１４］ＳＡＬＶＥ　Ｐ，ＳＡＲＤＥＳＡＩ　Ｍ，ＭＡＮＺＡ　Ｒ，ｅｔ　ａ１．Ｉｄｅｎｔｉｆｉ—　ｃａｔｉｏｎ　ｏｆ　ｔｈｅ　ｐｌａｎｔｓ　ｂａｓｅｄ　ｏｎ　ｌｅａｆ　ｓｈａｐｅ　ｄｅｓｃｒｉｐｔｏｒｓ　［Ｃ］∥Ｐｒｏｃｅｅｄｉｎｇｓ　ｏｆ　ｔｈｅ　Ｓｅｃｏｎｄ　Ｉｎｔｅｒｎａｔｉｏｎａｌ　Ｃｏｎｆｅｒ—　ｅｎｃｅ　ｏｎ　Ｃｏｍｐｎｔｅｒ　ａｎｄ　Ｃｏｍｍｕｎｉｃａｔｉｏｎ　Ｔｅｃｈｎｏｌｏｇｉｅｓ．　Ｓｐｒｉｎｇ　Ｉｎｄｉａ，２０１６：８５一１０１．　［１５］ＫＡＤＩＲ　Ａ．Ｌｅａｆ　ｉｄｅｎｔｉｉｆｃａｔｉｏｎ　ｕｓｉｎｇ　ｐｏｌａｒ　Ｆｏｕｒｉｅｒ　ｔｒａｎｓｆｏｒｍ　ａｎｄ　ｌｉｎｅａｒ　Ｂａｙｅｓ　ｎｏｒｍａｌ　ｃｌａｓｓｉｉｆｅｒ［Ｃ］／／Ｂｉｏ－　ｌｏｇｉｃａｌ　Ｓｈａｐｅ　Ａｎａｌｙｓｉｓ：Ｐｒｏｃｅｅｄｉｎｇｓ　ｏｆ　ｔｈｅ　３ｒｄ　Ｉｎｔｅｒｎａ—　ｔｉｏｎａｌ　Ｓｙｍｐｏｓｉｕｍ，２０１５：４０－４９．　『ｌ６　１　ＰＯＶＥＹ　Ｄ，ＺＨＡＮＧ　Ｘ　Ｈ，ＫＨＵＤＡＮＰＰＵＲ　Ｓ．Ｐａｒａｌｌｅｌ　ｔｒａｉｎｉｎｇ　ｏｆ　ＤＮＮＳ　ｗｉｔｈ　ｎａｔｕｒａｌ　ｇｒａｄｉｅｎｔ　ａｎｄ　ｐａｒａｍｅｔｅｒ　ａｖｅｒａｇｉｎｇ［Ｊ］．Ｅｐｒｉｎｔ　Ａｒｘｉｖ，２０１４，１４（１０）：７４５５．　［１７］ＫＨＯＴＡＮＺＡＤ　Ａ，ＨＯＮＧ　Ｙ　Ｈ．Ｉｎｖａｒｉｎａｔ　ｉｍａｇｅ　ｒｅｃｏｇ—　ｎｉｔｉｏｎ　ｂｙ　Ｚｅｒｎｉｋｅ　ｍｏｍｅｎｔｓ［Ｊ］．ＩＥＥＥ　Ｔｒａｎｓａｃｔｉｏｎｓ　ｏｎ　Ｐａｔｔｅｒｎ　Ａｎａｌｙｓｉｓ＆Ｍａｃｈｉｎｅ　Ｉｎｔｅｌｌｉｇｅｎｃｅ．１９９０．１２　（５）：４８９－４９７．　［１８］王丽君，淮永建，彭月橙．基于叶片图像多特征融合　的观叶植物种类识别［Ｊ］，北京林业大学学报，　２０１５，３７（１）：５４—６１．　［１９］崔瑞莲，宋彦，蒋兵，等．基于深度神经网络的语种　识别［Ｊ］，模式识别与人工智能，２０１５，２８（１２）：　１０９３—１０９９．　［２Ｏ］李帅，许悦雷，马时平，等．一种深度网络ＳＡＲ遮挡　目标识别方法［Ｊ］．西安电子科技大学学报（自然　科学版），２０１５，４２（３）：１５４－１６０．　［２１］董红霞，郭斯羽．一种结合形状与纹理特征的植物　叶片分类方法［Ｊ］，计算机工程与应用，２０１４，５０　（２３）：１８５－１８８．　［２２］ＪＩＡ　Ｙ，ＮＩＥ　Ｆ，ＺＨＡＮＧ　Ｃ．Ｔｒａｃｅ　ｒａｔｉｏ　ｐｒｏｂｌｅｍ　ｒｅｖｉｓｉ・　ｔｅｄ　ｆ　Ｊ］．ＩＥＥＥ　Ｔｒａｎｓａｃｔｉｏｎｓ　ｏｎ　Ｎｅｕｒａｌ　Ｎｅｔｗｏｒｋｓ．　２００９，２０（４）：７２９－７３５．　（编辑李静）