中国科学技术大学模式识别试题 （2012年春季学期） 姓名：学号：成绩： 一、填空与选择填空（本题答案写在此试卷上，30分） 1、模式识别系统的基本构成单元包括：、 和。 2、统计模式识别中描述模式的方法一般使用；句法模式识别中模式描述方法一般 有、、。 3、聚类分析算法属于；判别域代数界面方程法属于。 （1）无监督分类 (2)有监督分类（3）统计模式识别方法（4）句法模式识别方法 4、若描述模式的特征量为0-1二值特征量，则一般采用进行相似性度量。 （1）距离测度（2）模糊测度（3）相似测度（4）匹配测度 5、下列函数可以作为聚类分析中的准则函数的有。 （1） (4) 6、Fisher线性判别函数的求解过程是将N维特征矢量投影在中进行。 （1）二维空间（2）一维空间（3）N-1维空间 7、下列判别域界面方程法中只适用于线性可分情况的算法有；线性可分、不可分都适用的 有。 （1）感知器算法（2）H-K算法（3）积累位势函数法 8、下列四元组中满足文法定义的有。 （1）({A, B}, {0, 1}, {A→01, A→ 0A1 , A→ 1A0 , B→BA , B→ 0}, A) （2）({A}, {0, 1}, {A→0, A→ 0A}, A) （3）({S}, {a, b}, {S → 00S, S → 11S, S → 00, S → 11}, S) （4）({A}, {0, 1}, {A→01, A→ 0A1, A→ 1A0}, A) 二、(15分)简答及证明题 （1）影响聚类结果的主要因素有那些？ （2）证明马氏距离是平移不变的、非奇异线性变换不变的。 （3）画出对样本集 ω1：{(0,0,0)T, (1,0,0)T, (1,0,1)T, (1,1,0)T,} PDF 文件使用 "pdfFactory Pro" 试用版本创建https://www.doczj.com/doc/b83105915.html,
模 式 识 别 非 学 位 课 考 试 试 题 考试科目： 模式识别 考试时间 考生姓名： 考生学号 任课教师 考试成绩 一、简答题（每题6分，12题共72分）： 1、 监督学习和非监督学习有什么区别？ 参考答案：当训练样本的类别信息已知时进行的分类器训练称为监督学习，或者由教师示范的学习；否则称为非监督学习或者无教师监督的学习。 2、 你如何理解特征空间？表示样本有哪些常见方法？ 参考答案：由利用某些特征描述的所有样本组成的集合称为特征空间或者样本空间，特征空间的维数是描述样本的特征数量。描述样本的常见方法：矢量、矩阵、列表等。 3、 什么是分类器？有哪些常见的分类器？ 参考答案：将特征空中的样本以某种方式区分开来的算法、结构等。例如：贝叶斯分类器、神经网络等。 4、 进行模式识别在选择特征时应该注意哪些问题？ 参考答案：特征要能反映样本的本质；特征不能太少，也不能太多；要注意量纲。 5、 聚类分析中，有哪些常见的表示样本相似性的方法？ 参考答案：距离测度、相似测度和匹配测度。距离测度例如欧氏距离、绝对值距离、明氏距离、马氏距离等。相似测度有角度相似系数、相关系数、指数相似系数等。 6、 你怎么理解聚类准则？ 参考答案：包括类内聚类准则、类间距离准则、类内类间距离准则、模式与类核的距离的准则函数等。准则函数就是衡量聚类效果的一种准则，当这种准则满足一定要求时，就可以说聚类达到了预期目的。不同的准则函数会有不同的聚类结果。 7、 一种类的定义是：集合S 中的元素x i 和x j 间的距离d ij 满足下面公式： ∑∑∈∈≤-S x S x ij i j h d k k )1(1 ，d ij ≤ r ，其中k 是S 中元素的个数，称S 对于阈值h ，r 组成一类。请说明， 该定义适合于解决哪一种样本分布的聚类？ 参考答案：即类内所有个体之间的平均距离小于h ，单个距离最大不超过r ，显然该定义适合团簇集中分布的样本类别。 8、 贝叶斯决策理论中，参数估计和非参数估计有什么区别？ 参考答案：参数估计就是已知样本分布的概型，通过训练样本确定概型中的一些参数；非参数估计就是未知样本分布概型，利用Parzen 窗等方法确定样本的概率密度分布规律。 9、 基于风险的统计贝叶斯决策理论中，计算代价[λij ]矩阵的理论依据是什么？假设这个矩阵是 M ?N ，M 和N 取决于哪些因素？
1.简述模式的概念及其直观特性，模式识别的分类，有哪几种方法。（6’） 答（1）：什么是模式？广义地说，存在于时间和空间中可观察的物体，如果我们可以区别它们是否相同或是否相似，都可以称之为模式。 模式所指的不是事物本身，而是从事物获得的信息，因此，模式往往表现为具有时间和空间分布的信息。 模式的直观特性：可观察性；可区分性；相似性。 答（2）：模式识别的分类： 假说的两种获得方法（模式识别进行学习的两种方法）： 监督学习、概念驱动或归纳假说； 非监督学习、数据驱动或演绎假说。 模式分类的主要方法： 数据聚类：用某种相似性度量的方法将原始数据组织成有意义的和有用的各种数据 集。是一种非监督学习的方法，解决方案是数据驱动的。 统计分类：基于概率统计模型得到各类别的特征向量的分布，以取得分类的方法。 特征向量分布的获得是基于一个类别已知的训练样本集。是一种监督分类的方法， 分类器是概念驱动的。 结构模式识别：该方法通过考虑识别对象的各部分之间的联系来达到识别分类的目 的。（句法模式识别） 神经网络：由一系列互相联系的、相同的单元（神经元）组成。相互间的联系可以 在不同的神经元之间传递增强或抑制信号。增强或抑制是通过调整神经元相互间联 系的权重系数来（weight）实现。神经网络可以实现监督和非监督学习条件下的分 类。 2.什么是神经网络？有什么主要特点？选择神经网络模式应该考虑什么因 素？（8’） 答（1）：所谓人工神经网络就是基于模仿生物大脑的结构和功能而构成的一种信息处理系统（计算机）。由于我们建立的信息处理系统实际上是模仿生理神经网络，因此称它为人工神经网络。这种网络依靠系统的复杂程度，通过调整内部大量节点之间相互连接的关系，从而达到处理信息的目的。 人工神经网络的两种操作过程：训练学习、正常操作（回忆操作）。 答（2）：人工神经网络的特点： 固有的并行结构和并行处理； 知识的分布存储； 有较强的容错性； 有一定的自适应性； 人工神经网络的局限性： 人工神经网络不适于高精度的计算； 人工神经网络不适于做类似顺序计数的工作； 人工神经网络的学习和训练往往是一个艰难的过程； 人工神经网络必须克服时间域顺序处理方面的困难； 硬件限制； 正确的训练数据的收集。 答（3）：选取人工神经网络模型，要基于应用的要求和人工神经网络模型的能力间的匹配，主要考虑因素包括：
一、填空与选择填空（本题答案写在此试卷上，30分） 1、模式识别系统的基本构成单元包括：模式采集、特征提取与选择 和模式分类。 2、统计模式识别中描述模式的方法一般使用特真矢量；句法模式识别中模式描述方法一般有串、树、网。 3、聚类分析算法属于（1）；判别域代数界面方程法属于（3）。 （1）无监督分类 (2)有监督分类（3）统计模式识别方法（4）句法模式识别方法 4、若描述模式的特征量为0-1二值特征量，则一般采用（4）进行相似性度量。 （1）距离测度（2）模糊测度（3）相似测度（4）匹配测度 5、下列函数可以作为聚类分析中的准则函数的有（1）（3）（4）。 （1）（2） (3) (4) 6、Fisher线性判别函数的求解过程是将N维特征矢量投影在（2）中进行。 （1）二维空间（2）一维空间（3）N-1维空间 7、下列判别域界面方程法中只适用于线性可分情况的算法有（1）；线性可分、不可分都适用的有（3）。 （1）感知器算法（2）H-K算法（3）积累位势函数法 8、下列四元组中满足文法定义的有（1）（2）（4）。 （1）({A, B}, {0, 1}, {A→01, A→ 0A1 , A→ 1A0 , B→BA , B→ 0}, A) （2）({A}, {0, 1}, {A→0, A→ 0A}, A) （3）({S}, {a, b}, {S → 00S, S → 11S, S → 00, S → 11}, S) （4）({A}, {0, 1}, {A→01, A→ 0A1, A→ 1A0}, A) 9、影响层次聚类算法结果的主要因素有（计算模式距离的测度、（聚类准则、类间距离门限、预定的 类别数目））。 10、欧式距离具有（ 1、2 ）；马式距离具有（1、2、3、4 ）。 （1）平移不变性（2）旋转不变性（3）尺度缩放不变性（4）不受量纲影响的特性 11、线性判别函数的正负和数值大小的几何意义是（正（负）表示样本点位于判别界面法向量指向的 正（负）半空间中；绝对值正比于样本点到判别界面的距离。）。 12、感知器算法1。 （1）只适用于线性可分的情况；（2）线性可分、不可分都适用。
题型： 1.填空题5题 填空题 2.名词解释4题 3.问答题4题 4.计算作图题3题 5.综合计算题1题 备注1：没有整理第一章和第六章，老师说不考的 备注2：非线性判别函数相关概念P69 概率相关定义、性质、公式P83以后 最小错误率贝叶斯决策公式P85 最小风险贝叶斯P86 正态贝叶斯P90 综合计算有可能是第六次作业 一、填空题 物以类聚人以群分体现的是聚类分析的基本思想。 模式识别分类：1.从实现方法来分模式识别分为监督分类和非监督分类；2.从理论上来分，有统计模式识别，统计模式识别，模糊模式识别，神经网络模式识别法 聚类分析是按照不同对象之间的差异，根据距离函数的规律做模式分类的。 模式的特性：可观察性、可区分性、相似性 模式识别的任务：一是研究生物体（包括人）是如何感知对象的，二是如何用计算机实现模式识别的理论和方法。 计算机的发展方向：1.神经网络计算机－－模拟人的大脑思维；2.生物计算机－－运用生物工程技术、蛋白分子作芯片； 3.光计算机－－用光作为信息载体，通过对光的处理来完成对信息的处理。 训练学习方法：监督学习、无监督学习（无先验知识，甚至类别数也未知）。 统计模式识别有：1.聚类分析法（非监督）；2.判决函数法/几何分类法(监督)；3.基于统计决策的概率分类法 - 以模式集在特征空间中分布的类概率密度函数为基础，对总体特征进行研究，以取得分类的方法 数据的标准化目的：消除各个分量之间数值范围大小对算法的影响 模式识别系统的基本构成：书P7 聚类过程遵循的基本步骤：特征选择；近邻测度；聚类准则；聚类算法；结果验证；结果判定。 相似测度基础：以两矢量的方向是否相近作为考虑的基础,矢量长度并不重要。 确定聚类准则的两种方式：阈值准则，函数准则 基于距离阈值的聚类算法——分解聚类：近邻聚类法；最大最小距离聚类法 类间距离计算准则:1）最短距离法2）最长距离法3）中间距离法4）重心法5）类平均距离法6）离差平方和法P24 系统聚类法——合并的思想 用于随机模式分类识别的方法，通常称为贝叶斯判决。 BAYES 决策常用的准则：最小错误率；最小风险 错误率的计算或估计方法：①按理论公式计算；②计算错误率上界；③实验估计。
211大学介绍 (2014-03-21 18:37:56) 转载▼ 我国 211大学 第一档 （财经类）：中央财经大学、上海财经大学、对外经济贸易大学、西南财经大学、中南财经政法大学 （专属类）：北京外国语大学、上海外国语大学、中国政法大学、中国传媒大学、中央音乐学院、北京体育大学 （理工类）：北京邮电大学、华北电力大学、北京交通大学、北京科技大学、南京航空航天大学、西安电子科技大学、华东理工大学、南京理工大学 第二档 （理工类）：西南交通大学、哈尔滨工程大学、武汉理工大学、北京化工大学、北京工业大学、河海大学、大连海事大学 （综合类）：上海大学、暨南大学、苏州大学 （医药类）：天津医科大学、北京中医药大学、中国药科大学 第三档 （综合类）：郑州大学、福州大学、安徽大学、南昌大学、西北大学 （理工类）：东华大学、长安大学、江南大学、合肥工业大学、河北工业大学、太原理工大学 （师范类）：华中师范大学、华南师范大学、西南大学、东北师范大学、陕西师范大学、南京师范大学、湖南师范大学 （专属类）：中国石油大学、中国地质大学、中国矿业大学 第四档 （边远类）：云南大学、贵州大学、广西大学、海南大学、辽宁大学、内蒙古大学
（边远类）：宁夏大学、青海大学、新疆大学、西藏大学、延边大学、石河子大学 （农林类）：北京林业大学、华中农业大学、南京农业大学、东北农业大学、东北林业大学、四川农业大学 下面对211大学的分档进行一下简单的说明 一、排名依据 主要依据是2011年所有大学在全国31个省市的理科平均录取分的平均值的排名。 二、最热门的211 在一档211大学中，最热门的几所大学为中央财经大学、上海财经大学、对外经济贸易大学、北京外国语大学、北京邮电大学这五所。他们的录取分数排在前20名，和二档的985大学可以一争天下。 二档985中只有同济大学、南开大学、北京航空航天大学、西安交通大学可以和他们抗衡。 连著名的中山大学、武汉大学、厦门大学、天津大学，哈尔滨工业大学、华中科技大学，东南大学这些老牌的二档985的分数都没有他们高。可见这五所211大学是何等的热门。 三、一档211财经类 1、中央财经大学 号称我国银行家的摇篮，在金融街的校友资源全国第一，主要是政治定位，需要一所高水平的财经类院校在北京首都。中央财经大学最好的专业是金融学院的金融、金融工程、国际金融。 2、上海财经大学 上海财经大学是全国最著名的财经类大学，全国财经院校综合实力前五，经济学实力全国前十。加上地处上海这个金融大都市、全国金融中心，上海财大的未来将更加辉煌。最好的学院是会计学院、金融学院、商学院、经济学院、国际工商管理学院。 会计学院是第一大王牌大院。国际会计班包括ACCA、CGA、美国会计师。 国际会计班的CGA和ACCA比较好，美国会计证书很难考。非国际会计班包括会计学、注册会计师、财务管理。
1.什么是模式及模式识别？模式识别的应用领域主要有哪些？ 模式：存在于时间，空间中可观察的事物，具有时间或空间分布的信息； 模式识别：用计算机实现人对各种事物或现象的分析,描述,判断,识别。 模式识别的应用领域：（1）字符识别；（2） 医疗诊断；（3）遥感； (4）指纹识别 脸形识别；（5）检测污染分析，大气，水源，环境监测； （6）自动检测；（7 ）语声识别，机器翻译，电话号码自动查询，侦听，机器故障判断； （8）军事应用。 2.模式识别系统的基本组成是什么？ （1） 信息的获取：是通过传感器，将光或声音等信息转化为电信息； （2） 预处理：包括A\D,二值化，图象的平滑，变换，增强，恢复，滤波等, 主要指图 象处理； （3） 特征抽取和选择：在测量空间的原始数据通过变换获得在特征空间最能反映分类 本质的特征； （4） 分类器设计：分类器设计的主要功能是通过训练确定判决规则，使按此类判决规 则分类时，错误率最低。把这些判决规则建成标准库； （5） 分类决策：在特征空间中对被识别对象进行分类。 3.模式识别的基本问题有哪些？ （1）模式(样本)表示方法：（a ）向量表示；（b ）矩阵表示；（c ）几何表示；（4）基元(链码)表示； （2）模式类的紧致性：模式识别的要求:满足紧致集，才能很好地分类；如果不满足紧致集，就要采取变换的方法,满足紧致集 （3）相似与分类；(a)两个样本x i ，x j 之间的相似度量满足以下要求： ① 应为非负值 ② 样本本身相似性度量应最大 ③ 度量应满足对称性 ④ 在满足紧致性的条件下，相似性应该是点间距离的 单调函数 (b) 用各种距离表示相似性 （4）特征的生成:特征包括：(a)低层特征;(b)中层特征;(c)高层特征 （5） 数据的标准化:(a)极差标准化；(b)方差标准化 4．线性判别方法 （1）两类：二维及多维判别函数，判别边界，判别规则 二维情况：（a ）判别函数： ( ) （b ）判别边界：g(x)=0; （c n 维情况：（a ）判别函数： 也可表示为： 32211)(w x w x w x g ++=为坐标向量为参数，21,x x w 12211......)(+++++=n n n w x w x w x w x g X W x g T =)(为增值模式向量。 ，＝为增值权向量，T n n T n n x x x x X w w w w W )1,...,,(),,...,,(21121+=+
Pattern Recognition Lecture0 Introduction Feb. 19th, 2009
?任课教师 –唐珂ketang@https://www.doczj.com/doc/b83105915.html,; –电话：3600754 ?助教 –林民龙sunnyboy@https://www.doczj.com/doc/b83105915.html, ?课程主页 https://www.doczj.com/doc/b83105915.html,/~sunnyboy/pr/
主要内容 ?0.1 课程内容介绍 –课程内容、特点和授课方式 –教材和主要参考书目 ?0.2 课程要求 –考核和评分要求 ?0.3 模式识别导论 –什么是模式识别? –为什么需要模式识别? –模式识别在计算机科学中的地位 –模式识别系统框架 –模式识别研究领域的重要科学问题
0.1 课程内容介绍 ?课程内容： –模式识别系统模型和基本知识； –模式识别算法：贝叶斯方法、判别分析、神经网络、决策树、聚类算法等； –特征分析方法：特征选择、特征提取； –模式识别理论及系统评估方法。 ?课程特点： –介绍各种模式识别方法 –学习结束后，应能大致了解本领域的研究现状，并会用基本的模式识别方法解决自己科研中的相关问题。?学习方式： –课程讲授、平时作业和课堂讨论相结合
0.1 教材和主要参考书目 ?教材： ?Richard.O.Duda, P.E.Hart, D.G.Stork； 《模式分类》，机械工业出版社，2005年。 ?主要参考书目： – A. R. Webb, Statistical Pattern Recognition. John Wiley & Sons, London, (2002). –T. Hastie, R. Tibshirani, J. Friedman. The Elements of Statistical Learning: Data Mining, Inference, and Prediction. Springer, 2001. –边肇祺，张学工；《模式识别》，清华大学出版社，2004年
模式识别与机器学习期末考查 试卷 研究生姓名：入学年份：导师姓名：试题1：简述模式识别与机器学习研究的共同问题和各自的研究侧重点。 答：（1）模式识别是研究用计算机来实现人类的模式识别能力的一门学科，是指对表征事物或现象的各种形式的信息进行处理和分析，以对事物或现象进行描述、辨认、分类和解释的过程。主要集中在两方面，一是研究生物体（包括人）是如何感知客观事物的，二是在给定的任务下，如何用计算机实现识别的理论和方法。机器学习则是一门研究怎样用计算机来模拟或实现人类学习活动的学科，是研究如何使机器通过识别和利用现有知识来获取新知识和新技能。主要体现以下三方面：一是人类学习过程的认知模型；二是通用学习算法；三是构造面向任务的专用学习系统的方法。两者关心的很多共同问题，如：分类、聚类、特征选择、信息融合等，这两个领域的界限越来越模糊。机器学习和模式识别的理论和方法可用来解决很多机器感知和信息处理的问题，其中包括图像/ 视频分析（文本、语音、印刷、手写）文档分析、信息检索和网络搜索等。 （2）机器学习和模式识别是分别从计算机科学和工程的角度发展起来的，各自的研究侧重点也不同。模式识别的目标就是分类，为了提高分类器的性能，可能会用到机器学习算法。而机器学习的目标是通过学习提高系统性能，分类只是其最简单的要求，其研究更
侧重于理论，包括泛化效果、收敛性等。模式识别技术相对比较成熟了，而机器学习中一些方法还没有理论基础，只是实验效果比较好。许多算法他们都在研究，但是研究的目标却不同。如在模式识别中研究所关心的就是其对人类效果的提高，偏工程。而在机器学习中则更侧重于其性能上的理论证明。试题2：列出在模式识别与机器学习中的常用算法及其优缺点。答：（1）K 近邻法算法作为一种非参数的分类算法，它已经广泛应用于分类、 回归和模式识别等。在应用算法解决问题的时候，要注意的两个方面是样本权重和特征权重。 优缺点：非常有效，实现简单，分类效果好。样本小时误差难控制，存储所有样本，需要较大存储空间，对于大样本的计算量大。（2）贝叶斯决策法 贝叶斯决策法是以期望值为标准的分析法，是决策者在处理 风险型问题时常常使用的方法。 优缺点：由于在生活当中许多自然现象和生产问题都是难以完全准确预测的，因此决策者在采取相应的决策时总会带有一定的风险。贝叶斯决策法就是将各因素发生某种变动引起结果变动的概率凭统计资料或凭经验主观地假设，然后进一步对期望值进行分析，由于此概率并不能证实其客观性，故往往是主观的和人为的概率，本身带有一定的风险性和不肯定性。虽然用期望的大小进行判断有一些风险，但仍可以认为贝叶斯决策是一种兼科学性和实效性于一身的比较完善的用于解决风险型决策问题的方法，在实际中能够广泛应
第一章数字图像处理概论 *图像是对客观存在对象的一种相似性的、生动性的描述或写真。 *模拟图像 空间坐标和明暗程度都是连续变化的、计算机无法直接处理的图像 *数字图像 空间坐标和灰度均不连续的、用离散的数字（一般整数）表示的图像（计算机能处理）。是图像的数字表示，像素是其最小的单位。 * 数字图像处理（Digital Image Processi ng ） 利用计算机对数字图像进行（去除噪声、增强、复原、分割、特征提取、识别等）系列操作，从而获得某种预期的结果的技术。（计算机图像处理） *数字图像处理的特点（优势） （1）处理精度高，再现性好。（2）易于控制处理效果。（3）处理的多样性。（4）图像数据量庞大。（5）图像处理技术综合性强。 *数字图像处理的目的 （1）提高图像的视感质量，以达到赏心悦目的目的 a. 去除图像中的噪声； b. 改变图像的亮度、颜色； c. 增强图像中的某些成份、抑制某些成份； d. 对图像进行几何变换等，达到艺术效果； （2）提取图像中所包含的某些特征或特殊信息。 a.模式识别、计算机视觉的预处理 （3）对图像数据进行变换、编码和压缩，以便于图像的存储和传输。? ?数字图像处理的主要研究内容 （1）图像的数字化 a. 如何将一幅光学图像表示成一组数字，既不失真又便于计算机分析处理 b. 主要包括的是图像的采样与量化 （2*）图像的增强 a.加强图像的有用信息，消弱干扰和噪声 （3）图像的恢复 a.把退化、模糊了的图像复原。模糊的原因有许多种，最常见的有运动模糊，散焦模糊等 （4*）图像的编码 a.简化图像的表示，压缩表示图像的数据，以便于存储和传输。 （5）图像的重建 a.由二维图像重建三维图像（如CT （6）图像的分析
《模式识别》试题库 一、基本概念题 1.1 模式识别的三大核心问题是：、、。 1.2、模式分布为团状时，选用聚类算法较好。 1.3 欧式距离具有。马式距离具有。 （1）平移不变性（2）旋转不变性（3）尺度缩放不变性（4）不受量纲影响的特性 1.4 描述模式相似的测度有：。 （1）距离测度（2）模糊测度（3）相似测度（4）匹配测度 1.5 利用两类方法处理多类问题的技术途径有：（1）；（2）； （3）。其中最常用的是第个技术途径。 1.6 判别函数的正负和数值大小在分类中的意义 是：， 。 1.7 感知器算法。 （1）只适用于线性可分的情况；（2）线性可分、不可分都适用。 1.8 积累位势函数法的判别界面一般为。 （1）线性界面；（2）非线性界面。 1.9 基于距离的类别可分性判据有：。 （1） 1 [] w B Tr S S - （2） B W S S （3） B W B S S S + 1.10 作为统计判别问题的模式分类，在（）情况下，可使用聂曼-皮尔逊判决准则。 1.11 确定性模式非线形分类的势函数法中，位势函数K(x,x k)与积累位势函数K(x)的关系为 （）。 1.12 用作确定性模式非线形分类的势函数法，通常，两个n维向量x和x k的函数K(x,x k)若同时满足下列三个条件，都可作为势函数。 ①（）；
②（ ）； ③ K(x,x k )是光滑函数，且是x 和x k 之间距离的单调下降函数。 1.13 散度J ij 越大，说明ωi 类模式与ωj 类模式的分布（ ）。当ωi 类模式与ωj 类模式的分布相同时，J ij =（ ）。 1.14 若用Parzen 窗法估计模式的类概率密度函数，窗口尺寸h1过小可能产生的问题是（ ），h1过大可能产生的问题是（ ）。 1.15 信息熵可以作为一种可分性判据的原因 是： 。 1.16作为统计判别问题的模式分类，在（ ）条件下，最小损失判决规则与最小错误判决规则是等价的。 1.17 随机变量l(x ρ)=p( x ρ|ω1)/p( x ρ|ω2)，l( x ρ)又称似然比，则E {l( x ρ)|ω2}= （ ）。在最小误判概率准则下，对数似然比Bayes 判决规则为（ ）。 1.18 影响类概率密度估计质量的最重要因素是 （ ）。 1.19 基于熵的可分性判据定义为 )] |(log )|([1 x P x P E J i c i i x H ρ ρωω∑=-=，J H 越（ ），说明模式的 可分性越强。当P(ωi | x ρ) =（ ）(i=1,2,…,c)时，J H 取极大值。 1.20 Kn 近邻元法较之于Parzen 窗法的优势在于 （ ）。 上述两种算法的共同弱点主要是（ ）。 1.21 已知有限状态自动机Af=(∑，Q ，δ，q0，F)，∑={0，1}；Q={q0，q1}； δ：δ(q0，0)= q1，δ(q0，1)= q1，δ(q1，0)=q0，δ(q1，1)=q0；q0=q0；F={q0}。现有输入字符串：(a) 00011101011，(b) 1100110011，(c) 101100111000，(d)0010011，试问，用Af 对上述字符串进行分类的结果为（ ）。 1.22 句法模式识别中模式描述方法有： 。 （1）符号串 （2）树 （3）图 （4）特征向量
模式识别miniproject 实验报告 报告人：李南云 学号：SA16173027 日期：2016.12.23
数据分析 在此简要的说明一下数据情况，给定数据集分为train和test 两个data文件， train.data是11列8285行，意味着有8285个样本，矩阵的最后一列是该列所对应的样本类别。根据统计，train数据前466个样本均为1类，而后7819个样本均为-1类，所以该分类器为二分类问题。MATLAB中用importdata（）读取数据，并将样本和其所属类别分开来，样本为trnset，所属类别为trnclass，train数据用于训练分类器。 Test.data是11列2072行，同样也意味着有2072个样本，最后一列为该列所对应样本类别，test数据前117为1类，后1955个数据为-1类。同样读取数据后，分为tstset和tstclass两个矩阵，前者代表2072个样本，后者代表所对应样本的类别，我们需要将train所训练好的分类器应用在tstset样本上，输出分类结果tstclass1，将其与tstclass相比较，计算每个类别的正确率和总的正确率。 算法介绍 本次实验采用了SVM（support vector machines）分类模型，由于数据线性不可分而且在实际问题中数据也大都线性不可分，所以本次试验采取的线性不可分SVM方法，即将数据向高维空间映射，使其变得线性可分。 本实验选取的二分类算法，SVC_C。
下面先以线性分类器为例，来引入SVM算法的一些概念和处理流程，如图1所示，假设C1和C2是需要区分的类别，而在二维平面中它们的样本如图，中间的一条直线就是一个线性分类函数，由图中可以看出，这个线性分类函数可以完全的将两类样本区分开来，我们就称这样的数据是线性可分的，否则则为线性不可分，本实验中所采用的数据在二维空间里分布如图2和图3所示（红色标注分类为1的样本，蓝色标注为分类为-1的样本），明显线性不可分。 图1
《模式识别》试题答案（A卷） 一、填空与选择填空（本题答案写在此试卷上，30分） 1、影响层次聚类算法结果的主要因素有（计算模式距离的测度、（聚类准则、类间距离门限、预定 的类别数目））。 2、欧式距离具有（ 1、2 ）；马式距离具有（1、2、 3、4 ）。（1）平移不变性（2）旋转不 变性（3）尺度缩放不变性（4）不受量纲影响的特性 3、线性判别函数的正负和数值大小的几何意义是（正（负）表示样本点位于判别界面法向量指向的 正（负）半空间中；绝对值正比于样本点到判别界面的距离。）。 4、感知器算法1。（1）只适用于线性可分的情况；（2）线性可分、不可分都适用。 5、积累势函数法较之于H-K算法的优点是（该方法可用于非线性可分情况（也可用于线性可分情 况））；位势函数K(x,x k)与积累位势函数K(x)的关系为（ ∑ ∈ = X x x x K x K ~ k k k ) , ( ) ( α ）。 6、在统计模式分类问题中，聂曼-皮尔逊判决准则主要用于（某一种判决错误较另一种判决错误更 为重要）情况；最小最大判决准则主要用于（先验概率未知的）情况。 7、“特征个数越多越有利于分类”这种说法正确吗？（错误）。特征选择的主要目的是（从n个特 征中选出最有利于分类的的m个特征（m
中国科学院自动化研究所 2014年招收攻读博士学位研究生入学统一考试试卷 科目名称：模式识别 考生须知： 1. 本试卷满分为100分，全部考试时间总计180分钟。 2. 所有答案必须写在答题纸上，写在试题纸上或草稿纸上一律无效。 1． (16分) 关于统计学习与支持向量机，请回答如下问题：(1) 给出机器学习问题的形式化表示 (4分)；(2) 解释学习机器的推广能力 (4分)；(3) 从几何的角度阐述线性支持向量机的原理 (4分)；(4) 基于两类支持向量机，设计一个c 类(c > 2)分类训练策略 (4分)。 2． (10分) (1) 请描述径向基函数网络的结构和功能 (4分)；(2) 指出径向基函数网络的参数，分析在训练一个径向基函数网络时如何调节这些参数 (6分)。 3． (10分) (1) 简述Fisher 线性判别分析的原理 (4分)；(2) 针对两类分类问题，试证明在正态等方差条件下，Fisher 线性判别等价于贝叶斯判别 (6分)。 4． (10分) 假设在某个局部地区细胞识别中正常 (1ω)和异常(2ω)两类的先验分别为 1()0.85P ω=和2()0.15P ω=。现有一待识别细胞，其观察值为x ，从类条件概率密度分布曲线上查得1(|)0.2=P x ω，2(|)0.4=P x ω，请对该细胞x 进行分类，并给出计算过程。 5． (10分) 现有七个位于二维空间的样本：1(1,0)=T x ，2(0,1)=T x ，3(0,1)=-T x ，4(0,0)=T x ，5(0,2)=T x ，6(0,2)=-T x ，7(2,0)=-T x ，其中上标T 表示向量的转置。假定前三个样本属于第一类，后四个样本属于第二类，请画出最近邻法决策面。 6． (16分) 在一个模式识别问题中，有下列8个样本: 1(1,1)T =-x ，2(1,1)T =--x ，3(0,1)T =x ，4(0,1)T =-x ，5(2,1)T =x ，6(2,1)T =-x ，7(3,1)T =x ，8(3,1)T =-x ，其中上标T 表示向量的转置。请回答如下问题：(1) 如果不知道这8个样本的类别标签，请采用K-L 变换，计算其特征值和特征向量（10分）；(2) 对上述8个样本，假设前4个样本属于第一类，后4个样本属于第二类，请给出一种特征选择方法，并写出相应的计算过程 (6分)。 7． (16分) (1) 给定m 维空间中的n 个样本，请给出C -均值聚类算法的计算步骤(包含算法输入和输出) (8分)；(2) 针对C -均值聚类算法，指出影响聚类结果的因素，并给出相应的改进措施 (8分)。 8． (12分) 某单位有n 位职员，现从每位职员采集到m (m >10)张正面人脸图像(可能因姿态、表情、光照条件的略微不同而不同)。每张人脸图像为200(高度) ?160(宽度)像素大小的灰度图像。现在拟设计一个人脸识别系统，请回答如下问题：(1) 描述拟采用的特征提取方法及计算步骤 (4分)；(2) 描述拟采用的分类器构造方法及计算步骤 (4分)；(3) 请从特征提取和分类器构造两方面对你所采用的方法进行评价(即解释采用它们的原因) (4分)。 科目名称：模式识别 第1页 共1页
1.什么是模式及模式识别模式识别的应用领域主要有哪些 模式：存在于时间，空间中可观察的事物，具有时间或空间分布的信息； 模式识别：用计算机实现人对各种事物或现象的分析,描述,判断,识别。 模式识别的应用领域：（1）字符识别；（2）医疗诊断；（3）遥感； (4）指纹识别脸形识别；（5）检测污染分析，大气，水源，环境监测；（6）自动检测；（7 ）语声识别，机器翻译，电话号码自动查询，侦听，机器故障判断； （8）军事应用。 2.模式识别系统的基本组成是什么 （1）信息的获取：是通过传感器，将光或声音等信息转化为电信息； （2）预处理：包括A\D,二值化，图象的平滑，变换，增强，恢复，滤波等, 主要指图象处理； （3）特征抽取和选择：在测量空间的原始数据通过变换获得在特征空间最能反映分类本质的特征； （4）分类器设计：分类器设计的主要功能是通过训练确定判决规则，使按此类判决规则分类时，错误率最低。把这些判决规则建成标 准库； （5）分类决策：在特征空间中对被识别对象进行分类。 3.模式识别的基本问题有哪些
（1）模式(样本)表示方法：（a ）向量表示；（b ）矩阵表示；（c ）几何表示；（4）基元(链码)表示； （2）模式类的紧致性：模式识别的要求:满足紧致集，才能很好地分类；如果不满足紧致集，就要采取变换的方法,满足紧致集 （3）相似与分类；(a)两个样本x i ，x j 之间的相似度量满足以下要求： ① 应为非负值 ② 样本本身相似性度量应最大 ③ 度量应满足对称性 ④ 在满足紧致性的条件下，相似性应该是点间距离的 单调函数 (b) 用各种距离表示相似性 （4）特征的生成:特征包括：(a)低层特征;(b)中层特征;(c)高层特征 （5） 数据的标准化:(a)极差标准化；(b)方差标准化 4．线性判别方法 （1）两类：二维及多维判别函数，判别边界，判别规则 二 维 情 况 ：（a ）判别函数： ( ) （b ）判别边界：g(x)=0; （c n 维情况：（a ）判别函数： 也可表示为： 32211)(w x w x w x g ++=为坐标向量 为参数，21,x x w 1 2211......)(+++++=n n n w x w x w x w x g X W x g T =)(
美国CS(Computer science)专业的主要分支（世毕盟留学） 1. Artificial Intelligence 人工智能 人工智能做为当前计算机科学专业下最热门,最有发展前景研究方向,因此所招收的国际学生多具备很强的学术背景,在该方面有着非常突出表现的人才.MASTER 招收的并不多,主要是PHD的学生居多. 由于这个方向更多的强调数据表述及算法方面的知识,所以当申请目标定位在这个方面的时候可以整理一下自己在这些方面的背景,看看对于这个方面的理解是否很深度.如果不够深入的话需要及时进行相关的学习! 2. Bioinformatics 生物信息学 对于这个方向的选择大家一定要谨慎,首先这个专业对于学生背景的选择很特殊,有的时候需要计算机背景的学生,有的时候需要生物学背景的学生,所以除非大家在这两个方面都具备非常强的实力,可以放手一拼,否则不如考虑申请纯CS的其他专业,申请这个方向需主要具备数学、信息学、统计、计算机科学、化学和生化方面的知识!或者综合知识,一般来说本科生很难达到这种要求! 设置在计算机科学下的生物信息学历年中国学生的招生录取情况都不好,网上也有很多相关的评论,因为美国本土学生的青睐,因此这个方向招收的国际学生非常少,而且一般被录取的国际学生出了有出色的硬件条件同时也具备很强的研究经历.而且一般研究生毕业被录取的几率相对更大一些.这个方向做为一个交叉学科,申请者多数具备计算机和生物学的双层背景.因此也提升了申请的难度!
3. Computer Architectures/Hardware Systems and De sign/VLSI 这个方向主要从事计算机硬件芯片,例如CPU的结构设计,内部结构逻辑门的电子开关,了解VLSI的同学应该知道这个方面的研究深度和难度,申请者必须具备很强的逻辑电路基础知识. 这三个方向的申请因为其就业环境的影响,申请热度下降的非常快,因为更偏向于理论性的研究因此申请的难度也很大,并且奖学金情况也不乐观! 4. Human-Computer Interaction/Graphics/Visualization 如果你打算申请这个方向,那么你需要掌握计算机制图,计算机成像的一些基本工具及其原理,但这通常往往不足以满足录取的要求,因为这种应用性极强的方向更多的强调经验,你是否从事过相关的工作,所以本科的客户要谨慎选择! 人机交互技术的申请热度随着这个在业界的关注度提升而渐渐升温,但该方向对于申请者的背景要求同样很高,多数录取者也是具备研究生学位.因此对于本科毕业的学生来讲申请这个方向的难度也是相当大的! 5. Computing Computing is the systematic study of algorithmic processes that describe and transform information: their theory, analysis, design, efficiency, implementation, and application. The fundamental question underlying all the computing is 'What can be (efficiently) automated? 该方的申请一直是不温不火的局面,由于这个方向偏基础所以大多数申请者考虑到今后就业的问题而放弃了他,也因为这个方向的资金相对较少,所以不被大多数人所关注,只是本科从事该方向学习的学生是申请这个方向的主流.历年AD出一些,OFFER相对较少! 6. Multimedia; Networking 这两个方面大家都很熟悉了,我就不做太多的说明了,其实选择这两个方面需要注意的并不是专业基础,而是选择学校的层次,尽量避免竞争吧! 多媒体技术与网络技术这两研究方向越来越多的出现在EE,ECE专业下,不过计算机背景的学生在申请这两个方向的时候仍然具有相当不错的竞争力!多媒体技术与EE专业下信号处理方向有着非常紧密的联系越来越多的美国学校将相关的研究放在信号处理方向下边.网络技术这个方面也有很多的设置在EE下边,以致于很多CS的同学为了这个专业转向EE或者ECE下边的通信与网络专业.国际上竞争比较激烈的方向之一!
《模式识别》试题库 一、基本概念题 1模式识别的三大核心问题是：（ ）、（ ）、（ ）。 2、模式分布为团状时，选用（ ）聚类算法较好。 3 欧式距离具有（ ）。马式距离具有（ ）。（1）平移不变性（2）旋转不 变性（3）尺度缩放不变性（4）不受量纲影响的特性 4 描述模式相似的测度有( )。（1）距离测度 （2）模糊测度 （3）相似测度 （4） 匹配测度 5 利用两类方法处理多类问题的技术途径有：（1） （2） （3） 。其中最常用的是第( )个技术途径。 6 判别函数的正负和数值大小在分类中的意义是：( )。 7 感知器算法 ( )。（1）只适用于线性可分的情况；（2）线性可分、不可分都适用。 8 积累位势函数法的判别界面一般为( )。（1）线性界面；（2）非线性界面。 9 基于距离的类别可分性判据有：( ).（1）1[]w B Tr S S - （2） B W S S （3） B W B S S S + 10 作为统计判别问题的模式分类，在（ ）情况下，可使用聂曼-皮尔逊判决准则。 11 确定性模式非线形分类的势函数法中，位势函数K(x,xk)与积累位势函数K(x)的关系为 （ ）。 12 用作确定性模式非线形分类的势函数法，通常，两个n 维向量x 和xk 的函数K(x,xk)若 同时满足下列三个条件，都可作为势函数。①（ ）； ②（ ）；③ K(x,xk)是光滑函数，且是x 和xk 之间距离的单调下降函数。 13 散度Jij 越大，说明i 类模式与j 类模式的分布（ ）。当i 类 模式与j 类模式的分布相同时，Jij=（ ）。 14 若用Parzen 窗法估计模式的类概率密度函数，窗口尺寸h1过小可能产生的问题是 （ ），h1过大可能产生的问题是（ ）。 15 信息熵可以作为一种可分性判据的原因是：( )。 16作为统计判别问题的模式分类，在（ ）条件下，最小损失判决规则与最 小错误判决规则是等价的。 17 随机变量l(x )=p(x 1)/p(x 2)，l(x )又称似然比，则E l( x )2= （ ）。在最小误判概率准则下，对数似然比Bayes 判决规则为 （ ）。 18 影响类概率密度估计质量的最重要因素（ ）。 19 基于熵的可分性判据定义为)]|(log )|([1x P x P E J i c i i x H ωω∑=-=，JH 越（ ），说 明模式的可分性越强。当P(i| x ) =（ ）(i=1,2,…,c)时，JH 取极大值。 20 Kn 近邻元法较之于Parzen 窗法的优势在于（ ）。上 述两种算法的共同弱点主要是（ ）。 21 已知有限状态自动机Af=(，Q ，，q0，F)，={0，1}；Q={q0，q1}；：(q0， 0)= q1，(q0，1)= q1，(q1，0)=q0，(q1，1)=q0；q0=q0；F={q0}。 现有输入字符串：(a) 000，(b) 11，(c) ，(d)0010011，试问，用Af 对上述字符串进行分