| 课程号 |
04833700 |
学分 |
2 |
| 英文名称 |
Advance Topic on Deep Learning |
| 先修课程 |
无 |
| 中文简介 |
本课程的目的在于介绍深度学习领域的前沿研究进展和最新的应用情况，培养学生阅读、理解当前前沿研究文献的能力以及通过算法和系统实现来掌握前沿理论方法和技术的能力。
对于选修本课程的学生要求具有机器学习领域，最好是深度学习领域的基本知识，具有较好的算法设计和编程经验。
教学内容围绕深度学习的前沿研究进展展开，涉及生成模型、变分自编码器（VAE）、生成式对抗网络（GAN）、可微分推断（Differentiable Inference）等前沿理论方法和技术，以及上述方法在自然语言生成、对话系统、机器翻译、文本理解、图像处理和多模态系统中的应用。
教材以AAAI，ACL，ICLR，ICML，IJCAI，NIPS等国际会议论文作为主体。
教学过程分为教师讲解（主要介绍本技术领域主流会议的总体情况，当前主要研究热点），分配学生阅读并讲解重要文献，教师点评与课堂问答等三部分。
|
| 英文简介 |
“Advance Topics on Deep Learning” course aims to help students to approach the state-of-the-art theory, method, and technology of deep learning. It is a training course that enhance the self-learning ability and innovation idea of students.
|
| 开课院系 |
信息科学技术学院 |
| 通选课领域 |
|
| 是否属于艺术与美育 |
否 |
| 平台课性质 |
|
| 平台课类型 |
|
| 授课语言 |
中文 |
| 教材 |
|
| 参考书 |
|
| 教学大纲 |
本课程的目的在于介绍深度学习领域的前沿研究进展和最新的应用情况，培养学生阅读、理解当前前沿研究文献的能力以及通过算法和系统实现来掌握前沿理论方法和技术的能力。对于选修本课程的学生要求具有机器学习领域，最好是深度学习领域的基本知识，具有较好的算法设计和编程经验。教学内容及相应学时分配如下：
1、神经网络与深度学习基础：4学时，包括神经网络与深度学习的发展历程，感知器模型，多层感知器模型，卷积神经网络，循环神经网络，递归神经网络，长短期记忆网络（LSTM），深度学习实践等
2、变分自编码器（VAE）：8学时，包括问题背景，变分基础与数学推导，重参数化技术，基本网络架构和算法，最新理论方法和技术进展，变分自编码器在跨语言理解和多模态系统等领域的最新应用。
3、生成式对抗网络（GAN）：8学时, 包括问题背景，理论推导和收敛性证明，基本网络架构和算法，最新理论方法和技术进展（DCGAN，WGAN，WGAN-GP和LSGAN等），生成式对抗网络在文本自动生成，自动摘要，机器翻译，图像生成等领域的最新应用
4、生成模型（Generative Models）与可微分推断（Differentiable Inference）：4学时，包括生成模型的基本概念和常用技术，可微分推断的问题背景，基本概念，可逆密度预测（Invertible density estimation）和自回归模型（Autoregressive models）等方法和技术，以及在自然语言理解和图像处理中的应用。
5、贝叶斯深度学习（Bayesian Deep Learning）：8学时，包括随机反向传播与近似推断，自编码变分贝叶斯，变分高斯过程，贝叶斯近似与Dropout,贝叶斯对抗生成网络，神经网络中不确定性理论方法和技术等。
教学过程分为教师讲解（主要介绍本技术领域主流会议的总体情况，当前主要研究热点），分配学生阅读并讲解重要文献，教师点评与课堂问答等三部分。
(1) 课程论文阅读报告40%；(2) 课堂讨论的表达与分享的参与程度10%；(3)课程项目50%。
|
| 教学评估 |
邓志鸿：
学年度学期：17-18-3，课程班：深度学习前沿专题1，课程推荐得分：null，教师推荐得分：null，课程得分分数段：80及以下；
|