基于BP神经网络的手写体数字图像识别 PT1700105 宁崇宇 PT1700106 陈玉磊 PT1700104 安传旭 摘要 在信息化飞速发展的时代，光学字符识别是一个重要的信息录入与信息转化的手段，其中手写体数字的识别有着广泛地应用，如：邮政编码、统计报表、银行票据等等，因其广泛地应用范围，能带来巨大的经济与社会效益。 本文结合深度学习理论，利用BP神经网络对手写体数字数据集MNIST进行分析，作为机器学习课程的一次实践，熟悉了目前广泛使用的Matlab工具，深入理解了神经网络的训练过程，作为非计算机专业的学生，结合该课题掌握了用神经网络处理实际问题的方法，为今后将深度学习与自身领域相结合打下了基础。
1 引言 从计算机发明之初，人们就希望它能够帮助甚至代替人类完成重复性劳作。利用巨大的存储空间和超高的运算速度，计算机已经可以非常轻易地完成一些对于人类非常困难的工作，然而，一些人类通过直觉可以很快解决的问题，却很难通过计算机解决，这些问题包括自然语言处理、图像识别、语音识别等等，它们就是人工智能需要解决的问题。 计算机要想人类一样完成更多的智能工作，就需要掌握关于这个世界的海量知识，很多早期的人工智能系统只能成功应用于相对特定的环境，在这些特定环
境下，计算机需要了解的知识很容易被严格完整地定义。 为了使计算机更多地掌握开放环境下的知识，研究人员进行了很多的尝试。其中影响力很大的一个领域就是知识图库（Ontology），WordNet是在开放环境中建立的一个较大且有影响力的知识图库，也有不少研究人员尝试将Wikipedia中的知识整理成知识图库，但是建立知识图库一方面需要花费大量的人力和物力，另一方面知识图库方式明确定义的知识有限，不是所有的知识都可以明确地定义成计算机可以理解的固定格式。很大一部分无法明确定义的知识，就是人类的经验，如何让计算机跟人类一样从历史的经验中获取新的知识，这就是机器学习需要解决的问题。 卡内基梅隆大学的Tom Michael Mitchell教授在1997年出版的书籍中将机器学习定义为“如果一个程序可以在任务T上，随着经验E的增加，效果P 也可以随之增加，则称这个程序可以从经验中学习”。逻辑提取算法可以从训练数据中计算出每个特征和预测结果的相关度，在大部分情况下，在训练数据达到一定数量之前，越多的训练数据可以使逻辑回归算法的判断越精确，但是逻辑回归算法有可能无法从数据中学习到好的特征表达，这也是很多传统机器学习算法的共同问题。 对机器学习问题来说，特征提取不是一件简单的事情。在一些复杂问题上，要通过人工的方式设计有效的特征集合，需要很多的时间和精力，甚至需要整个领域数十年的研究投入。既然人工无法很好地抽取实体中的特征，那么是否有自动的方式呢？深度学习解决的核心问题就是自动地将简单的特征组合成更加复杂的特征，并使用这些特征解决问题。 因为深度学习的通用性，深度学习的研究者往往可以跨越多个研究方向，甚至同时活跃于数个研究方向。虽然深度学习受到了大脑工作原理的启发，但现代深度学习研究的发展并不拘泥于模拟人脑神经元和人脑的工作原理，各种广泛应用的机器学习框架也不是由神经网络启发而来的。 MATLAB是美国MathWorks公司出品的商业数学软件，用于算法开发、数据可视化、数据分析以及数值计算的高级技术计算语言和交互式环境，主要包括MATLAB和Simulink两大部分。 MNIST是一个非常有名的手写体数字识别数据集，被广泛用作机器学习的入门样例，它包含了60000张图片作为训练数据，10000张图片作为测试数据，每一张图片代表了0~9中的一个数字，图片的大小为28x28，且数字会出现在图片的正中间。本文以该数据集为例，基于Matlab来分析BP神经网络的性能。 2 运行环境 本设计在Windows 10 下进行设计、主要利用Matlab工具环境，进行模拟演示。
中南大学 本科生毕业论文（设计） 题目基于神经网络的手写数字 识别系统的设计与实现
目录 摘要 (Ⅰ) ABSTRACT (Ⅱ) 第一章绪论 (1) 1.1手写体数字识别研究的发展及研究现状 (1) 1.2神经网络在手写体数字识别中的应用 (2) 1.3 论文结构简介 (3) 第二章手写体数字识别 (4) 2.1手写体数字识别的一般方法及难点 (4) 2.2 图像预处理概述 (5) 2.3 图像预处理的处理步骤 (5) 2.3.1 图像的平滑去噪 (5) 2.3.2 二值话处理 (6) 2.3.3 归一化 (7) 2.3.4 细化 (8) 2.4 小结 (9) 第三章特征提取 (10) 3.1 特征提取的概述 (10) 3.2 统计特征 (10) 3.3 结构特征 (11) 3.3.1 结构特征提取 (11) 3.3.2 笔划特征的提取 (11) 3.3.3 数字的特征向量说明 (12) 3.3 知识库的建立 (12) 第四章神经网络在数字识别中的应用 (14) 4.1 神经网络简介及其工作原理 (14) 4.1.1神经网络概述[14] (14) 4.1.2神经网络的工作原理 (14) 4.2神经网络的学习与训练[15] (15) 4.3 BP神经网络 (16) 4.3.1 BP算法 (16) 4.3.2 BP网络的一般学习算法 (16)
4.3.3 BP网络的设计 (18) 4.4 BP学习算法的局限性与对策 (20) 4.5 对BP算法的改进 (21) 第五章系统的实现与结果分析 (23) 5.1 软件开发平台 (23) 5.1.1 MATLAB简介 (23) 5.1.2 MATLAB的特点 (23) 5.1.3 使用MATLAB的优势 (23) 5.2 系统设计思路 (24) 5.3 系统流程图 (24) 5.4 MATLAB程序设计 (24) 5.5 实验数据及结果分析 (26) 结论 (27) 参考文献 (28) 致谢 (30) 附录 (31)
论文写作与规范 题目：基于神经网络方法的字符识别方法 学号： 210802102 专业：计算机系统结构 姓名：靳飞飞 2009 年 1 月 9日
基于神经网络方法的字符识别方法 靳飞飞 （中国海洋大学信息科学与工程学院, 山东青岛266071） 摘要：字符识别是模式识别领域的一项传统的课题，这是因为字符识别不是一个孤立的问题，而是模式识别领域中大多数课题都会遇到的基本问题，并且在不同的课题中，由于具体的条件不同，解决的方法也不尽相同，因而字符识别的研究仍具有理论和实践意义。这里讨论的是用神经网络方法实现基于照相的数字图像的字符识别的问题。并且通过模板匹配的方法作为参照，以体现神经网络在处理模式识别问题上的优势。由于人工神经网络的非线性以及并行性和鲁棒性等特点，在上述领域，其取得了以往传统算法无法获得的成功。 关键词：神经网络；字符识别；图像处理 Character recognition based on neural network Jin Feifei (College of Information Science and Engineering，Ocean University of China，Qingdao 266071，China) Abstract:Character recognition is a traditional problem in the field of pattern recognition, for it is rather an isolated task than a fundamental problem in most work of pattern recognition area, with which we have various methods to deal in terms of specific conditions. That means the pursuit of character recognition is of great significance both in theory and in practice .The goal of this paper is using neural network to recognize characters on digital image based on camera. It also can be seen, in the paper, the advantage of neural network compared with the template matching method. Because its nonlinearity, parallel and strong, in these fields mentioned above, artificial neural network has achieved the success which other traditional algorithms can not reach. Key word: neural network, character recognition, image processing 1引言 字符识别是模式识别领域的一项传统的课题，这是因为字符识别不是一个孤立的问题，
停车场管理系统 设 计 方 案
背景 (3) 项目概况说明 (5) 第一章、车牌识别系统说明 (5) 一、车牌识别系统工作模式 (5) 二、系统作业详细流程图 (5) 第二章、软件管理系统 (11) 一、系统管理流程图 (11) 二、系统软件组成 (12) 三、未完全识别车牌的处理方法 (17) 第三章、施工组织计划 (19) 工程施工进度表 (19) 第四章、售后服务 (20)
智能停车场解决方案 背景 随着我国机动车增长速度的加快，停车场管理系统已经被广泛的应用起来，使车辆管理更加科学化，正规化。经过几年的推广应用，在广泛使用的同时，也发现了一些弊端和漏洞 一、月租卡与车无法准确对应 现有系统，当月租用户刷卡出入车场时，无法自动判定该卡是否对应该车，这样就造成了，用户卡片随意互借，丢失计时卡，车辆数目不准确，用不法手段获取他人月租卡进行高档车辆盗窃的严重安全隐患。 二、临时卡无法自动录入车牌 现有系统，当临时卡用户进入车场时，无法自动在数据库中存储牌照号，这样在查询停车场中某辆临时停放车辆的进出情况时，会变得非常麻烦，无法快速查找。需要依次调取所有进入车辆图片进行人工辨别。同时也无法对离场临停车辆进行车牌和卡片的双重验证，同样也存在安全隐患。 三、车辆进出效率低下 现在小区规模越来越大，业主车辆越来越多，在经过停车场管理系统刷卡验证时，经常会出现业主找卡，忘记带卡，刷卡时无法靠边的情况，这样就严重影响了通行速度，造成车辆拥堵。在上下班高峰期的时候这种情况尤其严重。 针对以上的系统弊端和漏洞，我公司通过多年的技术研发和验证测试，推出了目前最先进的车牌自动识别系统，作为停车场系统的子系统，通过计算机的图像处理自动识别记录车牌，辨别同一车牌的车辆出入场时是否一致，是目前识别速度最快的车牌识别系统。其软件模块可以嵌入到停车场系统软件中，配合硬件共同实现车牌自动识别功能，使停车场系统更加完善精确。 在智能交通系统中，车牌自动识别系统是一个非常重要的发展方向，车牌自动识别系统正是在这种应用背景下研制出来的能够自动实时地检测车辆经过和识别汽车牌照的智能交通管理系统。
基于BP神经网络的车牌识别技术算法分析 摘要：车牌识别是计算机视觉技术的一种典型应用，以机器视觉、图形图像、模式识别等为理论基础，采用神经网络、形态学、投影等技术实现车辆拍照、视频分解、预处理、字符定位、文本识别等一体化车牌识别。 关键词：车牌识别；机器视觉；图形图像；模式识别；神经网络一、车牌识别的核心技术 车牌识别系统主要可分为原始图的采集、图像预处理、车牌定位、字符分割以及字符识别几大部分。 （一）预处理概述 一般刚采集的图像是彩色图像，加上国内车牌颜色的多样性（如白底黑字、黑底白字、黄底黑字及蓝底白字等）， 为了能够更好的对车牌进行图像处理，首先要对抓 （二）车牌定位方法 车牌定位是基于图像处理中的分割技术对整个车牌图 像进行车牌区域分割提取。由于我国车牌种类繁多且背景色复杂，实现一种可以通用的车牌定位提取方法是十分复杂的。典型的车牌定位方法流程如图2所示：图2 边缘检测的基本思想是基于图像边缘进行分析处理，该过程不仅可以降低不相关数据的运算，同时可以忽略一些干
扰信息，将图像原本最重要的特征信息保留下来。一般边缘检测采用的算子为Roberts和Sobel。而针对于车牌识别中车牌定位的提取，基于原有技术的基础上，可采用一种结合与改进的Roberts算子边缘检测与形态学的车牌定位算法：一 是增加两个方向的检测模版；二是Roberts算子阀值的自动选取。 形态学处理是基于数学形态学的技术，数学形态学具有解析和叙述几何形态学的功能。其基本运算有四种：开运算、闭运算、膨胀以及腐蚀，在车牌识别中可先对边缘检测好的图像进行腐蚀，再根据车牌的一些先验知识对图像做填充及滤波处理最终得到车牌位置。 在完成车牌定位之后，在车牌字符分割之前需要对已定位好的车牌进行倾斜校正处理。一般可采用Hough变换调整水平方向，Rodon变换调整垂直方向。 （三）基于垂直投影并结合连通域及模板匹配的分割方法 基于传统算法的优缺点，采用一种基于垂直投影法并结合连通域及模板匹配法进行字符分割，首先是根据连通域找出字符之间的宽度，然后再结合投影法确定单个字符的位置，最后再参考字符之间宽度建立一个分割模板。 为了能够对分割出来后的单个字符进行统一的尺寸管理，提高字符识别率，可以将分割后的单个字符统一归一化，
神经网络应用于手写数字识别-m a t l a b
实验报告 实验课程：管理运筹学 实验名称：神经网络应用于手写数字识别-matlab 学生姓名： 指导教师： 实验时间： 2018年1月16日
实验要求： 运用matlab编程进行神经网络进行手写数字识别。 小组成员： 姓名学号 实验过程： 一、BP神经网络 神经网络是由很多神经元组成，可以分为输入，输出，隐含层。 BP神经网络的特点：信号前向传递，信号反向传播。若输出存在误差，根据误差调整权值和阈值，使网络的输出接近预期。 在用BP神经网络进行预测之前要训练网络训练过程如下： 1.网络初始化：各个参数的确定包括输入，输出，隐含层的节点数，输入和隐含，隐含和输出层之间的权值，隐含，输出层的阈值，学习速度和激励函数。 2.计算隐含层输出 3.计算输出层输出 4.误差计算 5.权值更新 6.阈值更新 7.判断迭代是否结束 二、模型建立 数据集介绍： 数据集包含0-9这10个数字的手写体。是放在10个文件夹里，文件夹的名称对应存放的手写数字图片的数字，每个数字500张,每张图片的像素统一为28*28。 识别流程： 首先要对数据进行处理，这个主要是批量读取图片和特征提取的过程，特征提取的方法很多，这里只挑选最简单的来实现，然后是训练出一个神经网络的模型，最后用测试数据进行测试。为了方面，这里的神经网络的创建，训练和测试采用matlab函数来实现。
训练 运行流程： 1.确定神经网络的输入，输出。 输入是BP神经网络很重要的方面，输入的数据是手写字符经过预处理和特征提取后的数据。预处理有二值化，裁剪掉空白的区域，然后再统一大小为70*50为特征提取做准备。特征提取采用的是粗网格特征提取，把图像分成35个区域，每个区域100像素，统计区域中1像素所占的比例。经过预处理特征提取后，28*28图像转成1*35的特征矢量。提取完5000张图片后，依次把所有的特征存于一个矩阵（35*5000）中。 2.神经的网络的训练 用matlab的rands函数来实现网络权值的初始化，网络结构为输入层35，隐藏层34，输出层10，学习速率为0.1，隐藏层激励函数为sigmoid函数。随机抽取4500张图片提取特征后输入，按照公式计算隐含层和输出层输出，误差，更新网络权值。 3.神经网络的预测 训练好神经网络之后，用随机抽取的500个数字字符对网络进行预测，输入特征向量，计算隐含层和输出层输出，得到最后预测的数据。同时计算每个数字的正确率和全体的正确率。最后得到的总体正确率为0.8620。 主函数：
Abstract 2 一引言： (3) 二字符图像获取： (3) 三字符预处理 (4) 3.2 字符区域 (4) 3.2 字符区域分割： (4) 3.3 单个字体分割： (4) 3.4 单个字体裁剪 (5) 四模板字符识别 (5) 4.2 字符模板归一化 (5) 五BP神经网络字符识别 (5) 5.1 训练样本制作 (6) 5.2设计BP神经网络 (6) 5.3 BP训练 (7) 六识别结果发送下位机 (7) 5.1 MATLAB下的串口工具： (7) 5.2 下位机处理 (7) 5.2. 3 串口通信图： (9) 七总结： (9) 摘要 在MATLAB环境下利用USB摄像头采集字符图像，读取一帧保存为图像，然后对读取保存的字符图像，灰度化，二值化，在此基础上做倾斜矫正，对矫正的图像进行滤波平滑处理，然后对字符区域进行提取分割出单个字符，识别方法一是采用模板匹配的方法逐个对字符与预先制作好的字符模板比较，如果结果小于某一阈值则结果就是模板上的字符；二是采用BP神经网络训练，通过训练好的net对待识别字符进行识别。最然后将识别结果通过MATLAB下的串口工具输出51单片机上用液晶显示出来。 关键字：倾斜矫正，字符分割，模板匹配，BP神经网络，液晶显示 Abstract In the MATLAB environmentusing USB camera capture the character images, saved as an image reading, thenread the saved character images, grayscale, binary, on this basis do tilt correction,the correction image smoothing filter, and then extract the character regionsegmentation of a single character, and then one by one using a templatematching method of character with good character template is a pre-production,if the result is less than a certain threshold, the result is a template of thecharacter. Second, the BP neural network trained by the trained net to identifythe character towards recognition The results will identify the most and thenthe serial port through the MATLAB tool output 51 under microcontroller withLCD display. Keyword: Tilt correction, character segmentation,template matching, liquid crystal display 一引言： 光学字符识别(OCR,Optical Character Recognition)是指对文本资料进行扫描，然后对图像文件进行分析处理，获取文字及版面信息的过程。已有30多年历史，近几年又出现了图像字符识别（image character recognition，
三、基于BP神经网络识别字符 Matlab在图像处理与目标识别方面的应用实验 三、基于BP神经网络识别字符的简单实验 汽车牌照定位与字符识别是目标自动识别的一个典型问题。车牌由有限的字母和数字组成，采用固定的印刷字体和排列顺序。在车牌自动识别系统中，因自然因素或采样因素使得原本规则的印刷体字符产生畸变，给字符识别来了很大困难。BP神经网络算法是把一组样本输入输出问题转化为一个非线性优化问题，并通过梯度算法利用迭代运算求解权值的一种学习方法。采用BP网络进行分类，并附加线性感知器来实现单字符的有效识别，算法简便，识别率高，可适用于多种高噪声环境中的印刷体字符识别。 下面的实验引自《神经网络模型及其MATLAB仿真程序设计》一书P94～98，简单起见，只对含有单独数字的图片样本进行识别，不涉及从照片中定位车牌，分割字符等前期处理。我在保持基本算法思想不变的前提下，对原书程序及其叙述做了一定的修改。Matlab源程序略。 一、BP神经网络结构分析： 按照BP神经网络设计方法选用两层BP网络。其输入节点数为16×16＝256，隐层传输函数为Sigmoid函数。假设用一个输出节点表示10个数字，则输出层传输函数为pureline，隐层节点数为 ，取25。 二、神经网络仿真程序设计： 1、构造训练样本集，并构成训练所需的输入矢量和目标矢量：准备10组，每组10个（0～9）数字bmp图片作为训练样本。其中1组为清晰的，这里使用Microsoft Visual C#编程生成。另9组是在清晰样本的基础上，用Matlab添加'salt & pepper'、'gaussian'等噪音制作成的（下图示以“5”为例）。这些图片经过一定的预处理，取出其最大有效区域，归一为16×16的二值图像，作为输入矢量。 2、构造BP神经网络，并根据训练样本集形成的输入矢量和目标矢量，对BP网络进行训练。训练的误差性能曲线如图：
一、原始依据（包括设计或论文的工作基础、研究条件、应用环境、工作目 的等。） 工作基础：了解C++的基本概念和语法，熟练使用Visual C++6.0软件。 研究条件：BP神经网络的基本原理以及图像处理的基本常识。 应用环境：基于BP神经网络的图片图像文件中的字符识别。 工作目的：掌握基于Visual C++6.0应用程序的开发。 了解人工智能的基本概念并掌握神经网络算法的基本原理。 掌握Visual C++6.0中的图片处理的基本过程。 二、参考文献 [1]人工智能原理及其应用，王万森，电子工业出版社，2007. [2]VC++深入详解，孙鑫，电子工业出版社，2006. [3]人工神经网络原理, 马锐，机械工业出版社，2010. [4]Visual C++数字图像处理典型案例详解，沈晶，机械工业出版社，2012. [5]Application of Image Processing to the Characterization of Nanostructures Manuel F. M. Costa，Reviews on Advanced Materials Science,2004. 三、设计（研究）内容和要求（包括设计或研究内容、主要指标与技术参数，并根据课题性质对学生提出具体要求。） 1、掌握C++的基本概念和语法。 2、掌握二维神经网络的基本原理。了解BP神经网络的基本概念。 3、完成Visual C++中对于图像的灰度、二值化等预处理。 4、完成基于样本的神经网络的训练以及图像中数字的识别，并对其性能进 行统计和总结，分析其中的不足。 指导教师（签字） 年月日 审题小组组长（签字） 年月日
１１０ 基于神经网络的印刷体数字字符的识别 ＊ 周泽华，胡学友，谭 敏，张为堂 （合肥学院电子信息与电气工程系 合肥，２３０６０１） 摘 要：提出了一种基于ＢＰ网络的印刷体数字字符的识别方法。通过对ＢＰ网络的研究与学习，设计了一种结构合理，收敛速率快的ＢＰ网络。实验结果表明，该方法对标准的印刷体数字字符的识别率达到了１００％，对有１～３度倾斜角度的字符识别率也达到了９６％以上。 关键词：神经网络；ＢＰ网络；印刷体数字字符识别 Abstract: A method based on BP neural network was put forward to realize printed numeric character diagnosis, with satisfied results in experimental test. The rate reaches 100% for standard printed numbers and more than 96% for tilt character with 1-3 angles. Key words: Neural network ; BP network ; Printed numeric character 中图分类号：ＴＰ１８１ 文献标识码：Ｂ 文章编号：１００１－９２２７（２００９）０５－０１１０－０３ ０ 引 言 印刷体数字识别有极大的实用价值，它可以应用于身份证号码识别、汽车牌照识别、银行票据识别等各种印刷体编号的识别，涉及到交通、银行、教育和邮政等多个领域。它是字符识别的一个重要分支，现有的识别方法主要可分为两类 ：基于统计特征的方法［１］ 和基于结构特征的 方法 ［２］ 。由于印刷体数字恰是一种结构性字符，一般采用 “特征提取＋分类器”的方法［３－５］ 进行分类识别。 近年来，人工神经网络以其高度并行性、良好的容错性、联想记忆功能力、自适应和自学习等特点，备受人们重视，在字符识别领域得到了广泛的应用。本文对神经网络分类器进行研究，提出了一种基于ＢＰ网络的印刷体数字字符识别系统的实现方法，为印刷体数字字符识别提供了一条识别率高，识别速度快的新途径。１ 人工神经网络 神经网络是由大量处理单元（神经元、处理元件、电子元件、光电元件等）广泛互连而成的网络，它是在现代神经科学研究成果的基础上提出的，反映了人脑功能的基本特征。人工神经网络是一个并行的分布处理结构，它的工作原理是以人脑的组织结构和活动规律为背景，反映了人脑的很多特征，但并不是对人脑部分的真实实现。人工神经网络是通过人工神经元模型来实现模拟生物神经元，人工神经元相当于一个多输入单输出的非线性阈值器件。 ＢＰ神经网络是指采用了ＢＰ算法的多层前向神经网络。典型的三层ＢＰ神经网络结构如图１所示。它由输入层、隐含层（中间层）和输出层组成。其中，X １，X ２，…X ３为输入向量，T １，T ２，…T n 为神经元的阈值，W ij ，W jp 为连接权值，Y １，Y ２，…Y n 为输出向量。网络按有导师指导的方式进行学习，输入信息传播到隐含层结点上，经过ｌｏｇｓｉｇ型（也可以是其他函数）的激活函数运算后，将隐含结点的输出信息传播到输出结点，在输出层的各神经元获得网络的输入响应。如果输出层不能得到期望输出，即实际输出值与期望输出值之间有误差，那么就将误差信号沿原来的连接通路返回，逐次向输入层传播并进行计算，逐层修正各连接权，再经过正向传播过程。这两个过程反复进行，使得误差信号不断减小，网络对输入信息响应的正确率不断提高。当误差达到所期望的要求时，网络的学习过程就结束。 图１ 典型的三层ＢＰ神经网络结构 ２ ＢＰ网络的设计与实现２．１ 字符特征提取 在进行ＢＰ网络设计之前，我们要对待识别的字符进行特征提取，本设计是选取字符的网格特征作为识别的特 收稿日期：２００９－０５－２０ ＊基金项目：安徽省教育厅自然科学研究重点项目（ＫＪ２００９Ａ５５）、合肥学院科研发展基金重点项目（０９ＫＹ０２ＺＤ）、合肥学院自然科学研究发展基金一般项目（０９ＫＹ０２ＺＲ）资助。 作者简介：周泽华（１９８２－），男，安徽宿松人，助教，硕士，主要研究方向为数字图像处理。 基于神经网络的印刷体数字字符的识别 周泽华，等
实验报告 实验课程：管理运筹学 实验名称：神经网络应用于手写数字识别-matlab 学生姓名： 指导教师： 实验时间：2018年1月16日
实验要求： 运用matlab编程进行神经网络进行手写数字识别。 小组成员： 实验过程： 一、BP神经网络 神经网络是由很多神经元组成，可以分为输入，输出，隐含层。 BP神经网络的特点：信号前向传递，信号反向传播。若输出存在误差，根据误差调整权值和阈值，使网络的输出接近预期。 在用BP神经网络进行预测之前要训练网络训练过程如下： 1.网络初始化：各个参数的确定包括输入，输出，隐含层的节点数，输入和隐含，隐含和输出层之间的权值，隐含，输出层的阈值，学习速度和激励函数。 2.计算隐含层输出 3.计算输出层输出 4.误差计算 5.权值更新 6.阈值更新 7.判断迭代是否结束
二、模型建立 数据集介绍： 数据集包含0-9这10个数字的手写体。是放在10个文件夹里，文件夹的名称对应存放的手写数字图片的数字，每个数字500张,每张图片的像素统一为28*28。 识别流程： 首先要对数据进行处理，这个主要是批量读取图片和特征提取的过程，特征提取的方法很多，这里只挑选最简单的来实现，然后是训练出一个神经网络的模型，最后用测试数据进行测试。为了方面，这里的神经网络的创建，训练和测试采用matlab函数来实现。 测试图片 特征提取 训练数据分类器 特征提取分类器模型 分类结果 测试 训练 运行流程： 1.确定神经网络的输入，输出。 输入是BP神经网络很重要的方面，输入的数据是手写字符经过预处理和特征提取后的数据。预处理有二值化，裁剪掉空白的区域，然后再统一大小为70*50为特征提取做准备。特征提取采用的是粗网格特征提取，把图像分成35个区域，每个区域100像素，统计区域中1像素所占的比例。经过预处理特征提取后，28*28
基于BP神经网络的字符识别算法的实现设计
一、原始依据（包括设计或论文的工作基础、研究条件、应用环境、 工作目的等。） 工作基础：了解C++的基本概念和语法，熟练使用Visual C++6.0软件。 研究条件：BP神经网络的基本原理以及图像处理的基本常识。 应用环境：基于BP神经网络的图片图像文件中的字符识别。 工作目的：掌握基于Visual C++6.0应用程序的开发。 了解人工智能的基本概念并掌握神经网络算法的基本原理。 掌握Visual C++6.0中的图片处理的基本过程。 二、参考文献 [1]人工智能原理及其应用，王万森，电子工业出版社，2007. [2]VC++深入详解，孙鑫，电子工业出版社，2006. [3]人工神经网络原理, 马锐，机械工业出版社，2010. [4]Visual C++数字图像处理典型案例详解，沈晶，机械工业出版社，2012. [5]Application of Image Processing to the Characterization of Nanostructures Manuel F. M. Costa，Reviews on Advanced Materials Science,2004. 三、设计（研究）内容和要求（包括设计或研究内容、主要指标与技术参数，并根据课题性质对学生提出具体要求。） 1、掌握C++的基本概念和语法。 2、掌握二维神经网络的基本原理。了解BP神经网络的基本概念。 3、完成Visual C++中对于图像的灰度、二值化等预处理。 4、完成基于样本的神经网络的训练以及图像中数字的识别，并对其性 能进行统计和总结，分析其中的不足。 指导教师（签字）
模式识别作业 题目基于BP神经网络的数字识别科目模式识别
基于BP神经网络的数字识别 摘要 人工神经网络技术在现在取得了巨大的发展，它具有的高度非线性，使我们能表达一些至少是目前尚无法用计算理论表达清楚的外部世界模型；同时，神经网络所具有的自学习，自组织能力使我们能在与外部世界的交互作用下，实现无法用当前的计算理论表达清楚的功能；对于那些无法建立精确数学模型的系统，神经网络有着独特的优势。 本课题主要研究基于BP神经网络的方法来实现数字识别。首先对图像进行灰度化、二值化、平滑去噪、归一化、细化的预处理，以便于进行像素值的提取，对设计好的神经网络进行训练，对比训练的结果与期望的结构，并根据对比的结果对神经网络的一些权值进行修改，最终得到训练好的神经网络。并选择测试样本，进行仿真测试。 整个仿真实验中，对含数字的图片进行处理，其数字识别效果可在本课题中的MATLAB仿真实验中体现。 关键词：神经网络；灰度化；预处理；仿真测试
目录 摘要............................................................. II 目录............................................................ III 1 背景介绍 (4) 1.1研究背景 (4) 1.2 数字识别的发展现状 (4) 1.3 本课题主要的研究内容 (4) 2 图像预处理 (5) 2.1 彩色图像的灰度化 (5) 2.2 灰度图像的二值化 (5) 2.3 梯度锐化 (5) 2.4 去离散化噪声 (5) 2.3 归一化调整 (5) 3 模式识别 (6) 3.1 特征提取 (6) 3.2 BP神经网络 (6) 3.2.1 BP算法的多层感知器 (6) 3.2.2 BP算法过程 (7) 3.3 BP神经网络的设计与训练 (9) 3.3.1 BP神经网络的设计方法 (9) 3.3.2 BP神经网络仿真程序设计 (9) 3.3.3 BP神经网络测试 (9) 4仿真实验结果 (9) 5 总结............................................. 错误！未定义书签。参考文献 (11)
基于BP神经网络的手写数字识别实验报告
基于BP神经网络的手写体数字图像识别 PT1700105 宁崇宇 PT1700106 陈玉磊 PT1700104 安传旭 摘要 在信息化飞速发展的时代，光学字符识别是一个重要的信息录入与信息转化的手段，其中手写体数字的识别有着广泛地应用，如：邮政编码、统计报表、银行票据等等，因其广泛地应用范围，能带来巨大的经济与社会效益。 本文结合深度学习理论，利用BP神经网络对手写体数字数据集MNIST进行分析，作为机器学习课程的一次实践，熟悉了目前广泛使用的Matlab工具，深入理解了神经网络的训练过程，作为非计算机专业的学生，结合该课题掌握了用神经网络处理实际问题的方法，为今后将深度学习与自身领域相结合打下了基础。
1 引言 从计算机发明之初，人们就希望它能够帮助甚至代替人类完成重复性劳作。利用巨大的存储空间和超高的运算速度，计算机已经可以非常轻易地完成一些对
于人类非常困难的工作，然而，一些人类通过直觉可以很快解决的问题，却很难通过计算机解决，这些问题包括自然语言处理、图像识别、语音识别等等，它们就是人工智能需要解决的问题。 计算机要想人类一样完成更多的智能工作，就需要掌握关于这个世界的海量知识，很多早期的人工智能系统只能成功应用于相对特定的环境，在这些特定环境下，计算机需要了解的知识很容易被严格完整地定义。 为了使计算机更多地掌握开放环境下的知识，研究人员进行了很多的尝试。其中影响力很大的一个领域就是知识图库（Ontology），WordNet是在开放环境中建立的一个较大且有影响力的知识图库，也有不少研究人员尝试将Wikipedia中的知识整理成知识图库，但是建立知识图库一方面需要花费大量的人力和物力，另一方面知识图库方式明确定义的知识有限，不是所有的知识都可以明确地定义成计算机可以理解的固定格式。很大一部分无法明确定义的知识，就是人类的经验，如何让计算机跟人类一样从历史的经验中获取新的知识，这就是机器学习需要解决的问题。 卡内基梅隆大学的Tom Michael Mitchell教授在1997年出版的书籍中将机器学习定义为“如果一个程序可以在任务T上，随着经验E的增加，效果P也可以随之增加，则称这个程序可以从经验中学习”。逻辑提取算法可以从训练数据中计算出每个特征和预测结果的相关度，在大部分情况下，在训练数据达到一定数量之前，越多的训练数据可以使逻辑回归算法的判断越精确，但是逻辑回归算法有可能无法从数据中学习到好的特征表达，这也是很多传统机器学习算法的共同问题。 对机器学习问题来说，特征提取不是一件简单的事情。在一些复杂问题上，要通过人工的方式设计有效的特征集合，需要很多的时间和精力，甚至需要整个领域数十年的研究投入。既然人工无法很好地抽取实体中的特征，那么是否有自动的方式呢？深度学习解决的核心问题就是自动地将简单的特征组合成更加复杂的特征，并使用这些特征解决问题。 因为深度学习的通用性，深度学习的研究者往往可以跨越多个研究方向，甚至同时活跃于数个研究方向。虽然深度学习受到了大脑工作原理的启发，但现代深度学习研究的发展并不拘泥于模拟人脑神经元和人脑的工作原理，各种广泛应用的机器学习框架也不是由神经网络启发而来的。 MATLAB是美国MathWorks公司出品的商业数学软件，用于算法开发、数据可视化、数据分析以及数值计算的高级技术计算语言和交互式环境，主要包括MATLAB和Simulink两大部分。 MNIST是一个非常有名的手写体数字识别数据集，被广泛用作机器学习的入门样例，它包含了60000张图片作为训练数据，10000张图片作为测试数据，每一张图片代表了0~9中的一个数字，图片的大小为28x28，且数字会出现在图片的正中间。本文以该数据集为例，基于Matlab来分析BP神经网络的性能。
BP神经网络算法实现手写英文单字符识别 2017/5/6
目录 摘要 (3) 一、引言 (4) 二、问题描述 (4) 三、算法简介 (4) 1.BP网络的基本原理 (4) 2.计算模型和计算过程 (5) 1.初始化 (5) 2.前向传播 (5) 3.反向传播 (6) 4.权值修正 (6) 四、BP神经网络的参数选择 (6) 1.输入层神经元数目及输入格式说明 (6) 2.输出层神经元数目及输出格式说明 (6) 3.隐含层层数 (6) 4.隐含层神经元数目 (7) 5.神经元内部函数选择 (7) （1）阶跃函数sgn(x) (7) （2）sigmoid函数 (7) （3）tanh函数 (7) （4）ReLU函数 (7) 五、程序结构说明 (8) 1.图像预处理 (8) 2.神经网络训练 (8) 3.训练结果测试 (8)
六、程序运行结果 (9) 1.神经网络训练结果 (9) 2.神经网络测试结果 (10) 3.模型、训练及识别数据改进方法 (11) 七、总结 (11) 参考文献 (12) 附录 (12)
摘要：实践一个基于BP神经网络的单英文字符的识别算法，实现了单英文字符’Z’,’H’,’O’图像的预处理、分类、识别。根据BP神经网络原理，把识别算法分为训练算法和工作算法，并采用matlab软件进行了该算法的实现。结果显示，运用该算法，单字符识别率在90%以上，且学习次数越多识别率越高。该算法延展适用性非常高，可稍加改造广泛应用于许多工程领域，具有一定的实用价值。 关键字：英文字符识别；BP神经网络
一、引言 神经网络模式识别方法是近几年兴起的模式识别领域的一个新的研究方向。由于神经网络的高速并行处理、分布存贮信息等特性符合人类视觉系统的基本工作原则，具有很强自学习性、自组织性、容错性、高度非线性、联想记忆功能和推理意识功能等，能够实现目前基于计算理论层次上的模式识别理论所无法完成的模式信息处理工作，所以，采用神经网络进行模式识别，突破了传统模式识别技术的束缚，开辟了模式识别发展的新途径。同时神经网络识别也成为神经网络最成功和最有前途的应用领域之一。 而数字图像处理技术是神经网络模式识别的一个重要的应用方向。数字图像处理技术的发展已经获得长足的进步，但经典算法在数字图像的分类识别方向始终无法取得令人满意的效果，容易遇到特征向量难以选取、噪声影响大、误判率高等问题。而BP 神经网络算法很好的解决了这一系列问题。 本文基于BP 神经网络算法，实现了单英文字符’Z ’,’H ’,’O ’的识别。 二、问题描述 将数字点阵图片导入matlab ，实现区分单个英文字符为’Z ’,’H ’或’O ’的自动识别。 三、算法简介 1.BP 网络的基本原理 BP 神经网络是一种按误差逆传播算法训练的多层前馈网络，是目前应用最广泛的神经网络模型之一。BP 网络能学习和存贮大量的输入-输出模式映射关系，而无需事前揭示描述这种映射关系的数学方程。它的学习规则是使用梯度下降法，通过反向传播来不断调整网络的权值和阈值，使网络的误差平方和最小。BP 神经网络模型拓扑结构包括输入层（input ）、隐层(hidden layer)和输出层(output layer)。BP 神经网络结构示意图如图1所示。 BP 算法（反向传播算法）的学习过程，由信息的正向传播和误差的反向传播两个过程组成。输入层各神经元负责接收来自外界的输入信息， 并传递给中间层各神经元；中间层是内部信息处理层，负责信息变换，根据信息变化能力的需求，中间层可以设计为单隐层或者多隐层结构；最后一个隐层传递到输出层各神经元的信息，经进一步处理后，完成一次学习 图1. BP 神经网络结构示意图