教育教学

相关链接:

教室安排

课程信息

当前位置: 首页 > 教育教学 > 研究生教育 > 课程信息

模式识别  092M4002H

学期:2016-2017学年秋 | 课程属性:专业核心课 | 任课教师:刘成林等
课程编号: 092M4002H 课时: 60 学分: 3.0
课程属性: 专业核心课 主讲教师:刘成林等
英文名称: Pattern Recognition

教学目的、要求

本课程为控制科学与工程学科研究生的核心课,讲授和讨论模式识别领域的核心基础理论与方法。主要内容有模式识别定义和基本思想、贝叶斯决策、多种分类器设计、神经网络和深度学习、核方法、聚类分析、特征提取与选择、决策树、概率图模型等。
  通过本课程的学习,希望学生能了解模式识别基础理论和方法,了解模式识别和机器学习最新研究成果,掌握基本思想和关键技术,培养学生在模式识别及其应用领域的研究和技术开发能力。

预修课程

教 材

Richard O. Duda, Peter E. Hart, David G. Stork, Pattern Classification, 2nd Edition, John Wiley, 2001.(国内)模式分类,英文影印版。

主要内容

第一章  绪论
1.1 什么是模式识别
1.2 模式识别系统流程
1.3 模式识别系统设计
1.4 模式识别方法分类
1.5 本课程内容体系
第二章  贝叶斯决策理论
2.1 导论:2类的例子
2.2 最小风险决策
2.3 判别函数和决策面
2.4 高斯概率密度
2.5 高斯密度下的判别函数
2.6 错误率分析
2.7 离散变量的贝叶斯决策
2.8 复合模式分类
第三章  概率密度参数估计
3.1 最大似然估计
3.2 贝叶斯估计
3.3 特征维数问题
3.4 期望最大法(EM)
3.5 隐马尔可夫模型
第四章  非参数法
4.1 密度估计
4.2 Parzen窗方法
4.3 K近邻估计
4.4 最近邻规则
4.5 距离度量
第五章  线性分类器设计
5.1 线性判别函数与决策面
5.2 广义线性判别函数
5.3 两类可分情形下的线性判别函数
5.4 线性感知器准则及松驰方法
5.5线性最小二乘方法
第六章  神经网络和深度学习
6.1 神经网络发展简史
6.2 前馈神经网络
6.3 反向传播算法与分析
6.4 多层前馈神经网络训练策略
6.5 其它神经网络结构
6.6 深度学习发展状况
6.7波尔兹曼机简介
6.8 自编码器
6.9 卷积神经网络
6.10 Recurrent Neural Network
第七章  模型选择
7.1 模型选择方法介绍
7.2 基于偏差和方差的分类器设计准则
7.3 自举分类器构造方法
7.4 Bagging、Adaboost学习方法
7.5 分类器组合
7.6 分类器比较
第八章  聚类分析
8.1 K均值聚类
8.2 模糊K均值聚类
8.3 迭代聚类方法
8.4 层次聚类
8.5 谱聚类
8.6 在线聚类方法
第九章  特征提取与选择
11.1 维数灾难
11.2 特征提取
11.3 线性方法
11.4 非线性方法
11.5 特征选择
第十章  支撑向量机与核方法
    9.1 结构风险、经验风险与VC维
9.2线性可分支持向量机与硬间隔最大化
9.3线性支持向量机与软间隔最大化
9.4非线性支持向量机
9.5 序列最小最优化算法(SMO)
第十一章  决策树方法
10.1 决策树模型、学习与特征选择
10.2 决策树生成与剪枝(ID3,C4.5,CART等算法)
10.3 随机森林算法
第十二章  概率图模型
12.1 概述
12.2 有向概率图模型
12.3 无向概率图模型
12.4 模型的学习与推理

参考文献

主要参考书和文献:
1.	Andrew Webb, Statistical Pattern Recognition, 3rd Edition, John Wiley, 2011.
2.	Christopher M. Bishop, Pattern Recognition and Machine Learning, Springer, 2006.
3.	Yoshua Bengio, Ian J. Goodfellow, Aaron Courville, Deep Learning, http://www.iro.umontreal.ca/~bengioy/dlbook, 2015 (Book in preparation, MIT Press)
4.	K. Fodor, A Survey of Dimension Reduction Techniques, Center for Applied Scientific Computing, Lawrence Livermore National, Technical Report UCRL-ID-148494, 2002.
5.	Y. LeCun, L. Bottou, Y. Bengio, P. Haffner. Gradient-Based Learning Applied to Document Recognition, Proceedings of IEEE, Vol. 86, No. 11, pp. 2278-2324, 1998.
6.	A. Y. Ng, M. Jordan, and Y. Weiss. On spectral clustering: Analysis and an algorithm, In: Advances in Neural Information Processing Systems, Vancouver, Canada, 2001, pp. 849-856.
7.	李航著,统计学习方法,清华大学出版社,2012年3月出版 (第五、七章)
8.	Christopher J.C. Burges, A Tutorial on Support Vector Machines for Pattern Recognition, Data Mining and Knowledge Discovery, 2(2): 1-43, 1998.
9.	Andrew Moore, Support Vector Machine Tutorial, http://www.autonlab.org/tutorials/svm.html
10.	Andrew Moore, Decision Tree Tutorial, http://www.autonlab.org/tutorials/dtree.html

授课时间: 星期三, 第9、10、11节
授课地点: 教1-002
授课周次: 2、3、4、5、6、7、8、9、10、11、12、13、14、15、16、17、18、19、20

版权所有©中国科学院大学

地址:北京市怀柔区雁栖湖东路1号 邮编:101408