位置:成果数据库 > 期刊 > 期刊详情页
基于非监督预训练的结构优化卷积神经网络
  • ISSN号:2096-3246
  • 期刊名称:《工程科学与技术》
  • 时间:0
  • 分类:TP183[自动化与计算机技术—控制科学与工程;自动化与计算机技术—控制理论与控制工程]
  • 作者机构:重庆邮电大学工业物联网与网络化控制教育部重点实验室
  • 相关基金:国家自然科学基金资助项目(61673079);重庆市基础科学与前沿技术研究项目资助(cstc2016jcyj A1919)
中文摘要:

针对带标签训练样本不足,典型卷积神经网络卷积核由经验设置,网络结构固定不变难以后期再学习的问题,基于稀疏自编码器(sparse autoencoder,SAE)和卷积神经网络(convolutional neural network,CNN),提出新的CNN模型。该模型将部分原始样本输入SAE模型进行训练以得到低维特征表示,并将该低维特征表示作为CNN的卷积核的初始值,不仅可以很好地克服带标签训练数据样本不足的问题,还可以提取有效特征以加速网络收敛;并且在典型CNN结构基础上增加一条网络支路,先使用所有训练样本训练典型CNN结构,再使用大部分训练样本训练支路结构,最后使用其余少部分样本进行后续再学习并只更新支路权值以增强因特征不明显而容易误判的样本的特征,从而使得整个网络记忆已有特征的同时增加新特征。文中模型在MNIST数据集上迭代更新10次网络权值可以使测试识别率达到97.65%;在手写汉字数据集HCL2000中的简单字、中等字、复杂字及相似字上的测试正确率能达93%以上;50个训练样本、250个测试样本时,相似字识别率可达80.36%,比典型CNN及传统手写汉字识别方法更具泛化性。实验表明所提方法可有效应用于手写字等图像识别应用中。

同期刊论文项目
同项目期刊论文
期刊信息
  • 《工程科学与技术》
  • 中国科技核心期刊
  • 主管单位:中华人民共和国教育部
  • 主办单位:四川大学
  • 主编:谢和平
  • 地址:成都市一环路南一段24号
  • 邮编:610065
  • 邮箱:jsu@scu.edu.cn;jscu@163.com
  • 电话:028-85405425
  • 国际标准刊号:ISSN:2096-3246
  • 国内统一刊号:ISSN:51-1773/TB
  • 邮发代号:62-55
  • 获奖情况:
  • 国内外数据库收录:
  • 俄罗斯文摘杂志,美国化学文摘(网络版),美国数学评论(网络版),德国数学文摘,荷兰文摘与引文数据库,美国工程索引,美国剑桥科学文摘,日本日本科学技术振兴机构数据库,中国中国科技核心期刊,中国北大核心期刊(2004版),中国北大核心期刊(2008版),中国北大核心期刊(2011版),中国北大核心期刊(2014版)
  • 被引量:19