近日,中国科学院沈阳自动化研究所机器人学国家重点实验室在深度学习泛化能力研究中取得进展,相关研究成果depth selection for deep relu nets in feature extraction and generalization为题,发表在ieee transactions on pattern analysis and machine intelligence上。
深度学习是近年受到关注的研究领域,在与模式识别相关问题解决上表现出优越的性能。然而,随着求解问题复杂度的提升,网络深度也在加深。目前,该领域主要挑战之一是挖掘网络深度和求解问题复杂度之间的关系,明确网络深度及其泛化能力。中国科学院沈阳自动化研究所研究员韩志等联合西安交通大学教授林绍波、香港城市大学教授周定轩开展合作,通过在特征提取上深度-参数的平衡选择,给出特征与网络深度之间的相互适应性,证明了经典经验风险极小化可使深度网络达到学习任务最优泛化性能的结论。
机器人学国家重点实验室机器人视觉研究组长期专注机器人视觉、与模式识别等方向的研究,在深度学习、机器人视觉复杂光照/天气处理、机器人视觉表达、低秩矩阵/张量建模等方向取得系列创新性成果,在计算机视觉与模式识别领域的期刊与会议上发表论文,相关理论成果在一些国家重大工程项目中得到应用。
韩志为论文第一作者、生余思泉为论文第二作者。研究工作得到国家重点研发计划,国家自然科学基金创新研究群体项目、重点项目,中科院青年创新促进会等的资助,并获得机器人学国家重点实验室的支持。