卡耐基梅隆大学Simon Shaolei Du博士讲座通知

  应计算机学院姚鸿勋教授和电信学院孟维晓教授的共同邀请,Simon Shaolei Du博士将于2019年1月4日来哈尔滨工业大学访问并进行学术讲座,欢迎全校感兴趣的师生参加。

  讲学题目: Understanding Optimization and Generalization in Deep Learning: A Trajectory-based Analysis

  讲学时间:2019年1月4日上午9:00-11:00

  讲学地点:哈工大科学园2A栋1011会议室

  报告内容简介:This presentation will present recent progress on understanding deep neural networks by analyzing the trajectory of the gradient descent algorithm. Using this analysis technique, we are able to explain:

1) Why gradient descent finds a global minimum of the training loss even though the objective function is highly non-convex, and

2) Why a neural network can generalize even the number of parameters in the neural network is more than the number of training data.

  作者简介:Simon Shaolei Du,卡耐基梅隆大学计算机系博士,导师是著名的Aarti Singh教授和Barnabás Póczos教授。研究方向包括理论机器学习和统计学的主题,如深入学习、矩阵分解、凸/非凸优化、转移学习、强化学习、非参数统计和鲁棒统计。2015年他获得加州大学伯克利分校电子工程与计算机、工程数学和统计双学位。是伯克利EECS奖项获得者,Etta Kappa Nu成员、Phi Beta Kappa成员。作为国际机器学习方向顶尖青年学者,他是Best Paper Award at ICML 2018 Workshop on Nonconvex Optimization获得者,2018 NeurIPS顶级会议 NVIDIA Pioneer Award 获得者,以及19篇计算机顶级会议论文发表者。他还曾在微软和Facebook的研究实验室工作过。

点击微信扫一扫

活动预报