【学术讲座】深度学习的数学理解与认识

  • 人工智能学院
  • 创建于 2020-11-20
  • 16

       2020年11月19日上午10:30—12:10在国科大雁栖湖校区教一楼101开展“深度学习的数学理解与认识”科学前沿讲座,本讲座属于人工智能基础系列专题讲座。邀请主讲嘉宾是张世华研究员,他是中国科学院数学与系统科学研究院研究员、中国科学院随机复杂结构与数据科学重点实验室副主任、中国科学院大学岗位教授。主要从事生物信息计算、机器智能与优化,主要成果发表在Advanced Science、Nature Communications、National Science Review、Nucleic Acids Research、Bioinformatics、IEEE TPAIM、IEEE TKDE、IEEE TFS、AoAS等杂志。目前担任BMC Genomics等杂志编委。曾荣获中国青年科技奖、国家自然科学基金优秀青年基金、中组部万人计划青年拔尖人才、中国科学院卢嘉锡青年人才奖、全国百篇优秀博士论文奖等。

       本次讲座主要围绕深度学习的数学理解展开,深度学习特别是深度神经网络作为一种黑箱模型,是通过大量计算实验得到的,其数学原理逐渐引起研究者的广泛关注。张老师将从不同的角度介绍深度学习的数学理解与认识,特别介绍他们的初步尝试。报告的第一部分,从多层卷积稀疏编码模型的编码初始化和字典矩阵设计的角度,分别建立残差神经网络和多尺度密集连接网络与多层卷积稀疏编码模型的等价联系。报告第二部分,在维度不变的情况下,刻画残差神经网络所学习到的映射接近于最优传输映射,即数据点的表示在模型内部沿着一条直线传输,且不同数据点对应的直线保持不相交特性。最后部分,张老师提到最近的研究认为,深度神经网络的学习过程是按照“信息瓶颈”原则进行,理论上满足该原则能有效压缩冗余信息。那么,如何有效地优化该原则仍然是一个开放问题。为此,提出一个可以精确计算和高效优化的信息瓶颈实现方式。

       张老师的报告生动风趣,获得了学生们的一致好评,报告结束后有很多学生与其交流。

153443 713691 01