第5章 人工神经网络,OUTLINES,一、人工神经网络简介 二、MATLAB简介（选讲） 三、神经网络建模基础 四、单层感知器 五、BP神经网络 六、利用Microsoft SQL Server2005实践神经网络算法,2,医学数学挖掘SQL SERVER 2005 案例分析,一、人工神经网络简介,3,医学数学挖掘SQL SERVER 2005 案例分析,一、人工神经网络简介,生物神经网络 人类的大脑大约有1.41011个神经细胞，亦称为神经元。每个神经元有数以千计的通道同其它神经元广泛相互连接，形成复杂的生物神经网络。 人工神经网络 以数学和物理方法以及信息处理的角度对人脑神经网络进行抽象，并建立某种简化模型，就称为人工神经网络（Artificial Neural Network，缩写 ANN）。,4,医学数学挖掘SQL SERVER 2005 案例分析,一、人工神经网络简介,人工神经网络定义 神经网络是由多个非常简单的处理单元彼此按某种方式相互连接而形成的计算系统，该系统是靠其状态对外部输入信息的动态响应来处理信息的。 人工神经网络是一个由许多简单的并行工作的处理单元组成的系统，其功能取决于网络的结构、连接强度以及各单元的处理方式。 人工神经网络是一种旨在模仿人脑结构及其功能的信息处理系统。,5,医学数学挖掘SQL SERVER 2005 案例分析,一、人工神经网络简介,神经网络的基本特征,6,医学数学挖掘SQL SERVER 2005 案例分析,能力特征： 自适应性 自学习 自组织,结构特征： 并行式处理 分布式存储 容错性,一、人工神经网络简介,7,医学数学挖掘SQL SERVER 2005 案例分析,联想记忆功能,神经网络的基本功能,一、人工神经网络简介,8,医学数学挖掘SQL SERVER 2005 案例分析,神经网络的基本功能,非线性映射功能,神经网络的基本功能,9,医学数学挖掘SQL SERVER 2005 案例分析,分类与识别功能,一、人工神经网络简介,神经网络的基本功能,10,医学数学挖掘SQL SERVER 2005 案例分析,优化计算功能,一、人工神经网络简介,神经网络的基本功能,11,医学数学挖掘SQL SERVER 2005 案例分析,知识处理功能,一、人工神经网络简介,神经网络的应用领域：信息处理领域 信号处理 模式识别 数据压缩,12,医学数学挖掘SQL SERVER 2005 案例分析,一、人工神经网络简介,神经网络的应用领域：自动化领域 系统识别 神经控制器 智能检测,13,医学数学挖掘SQL SERVER 2005 案例分析,一、人工神经网络简介,神经网络的应用领域：工程领域 汽车工程 军事工程 化学工程 水利工程,14,医学数学挖掘SQL SERVER 2005 案例分析,一、人工神经网络简介,神经网络的应用领域：医学领域 检测数据分析 生物活性研究 医学专家系统,15,医学数学挖掘SQL SERVER 2005 案例分析,一、人工神经网络简介,神经网络的应用领域：经济领域 信贷分析 市场预测,16,医学数学挖掘SQL SERVER 2005 案例分析,一、人工神经网络简介,神经网络的软硬件实现 神经网络编程语言既可用高级语言也可用低级语言。C语言是神经网络应用软件的基本编程工具;汇编语言常用于提高神经网络的已有功能或解决与硬件相关的难点;Sql server 2005 的数据挖掘模块包含神经网络模型，但仅包括最简单的一些模型，为了更好的应用神经网络进行数据挖掘，本章在讲解Sql server 2005进行数据挖掘之前补充讲解MATLAB软件，供有兴趣的同学深入学习时使用。 MATLAB名字由MATrix和 LABoratory 两词的前三个字母组合而成。20世纪七十年代后期，时任美国新墨西哥大学计算机科学系主任的Cleve Moler教授出于减轻学生编程负担的动机，为学生设计了一组调用LINPACK和EISPACK库程序的“通俗易用”的接口，此即用FORTRAN编写的萌芽状态的MATLAB。,17,医学数学挖掘SQL SERVER 2005 案例分析,一、人工神经网络简介,神经网络的软硬件实现 MATLAB以商品形式出现后，仅短短几年，就以其良好的开放性和运行的可靠性，使原先控制领域里的封闭式软件包（如英国的UMIST，瑞典的LUND和SIMNON，德国的KEDDC）纷纷淘汰，而改以MATLAB为平台加以重建。在时间进入20世纪九十年代的时候，MATLAB已经成为国际控制界公认的标准计算软件。,18,医学数学挖掘SQL SERVER 2005 案例分析,一、人工神经网络简介,神经网络的软硬件实现 在欧美大学里，诸如应用代数、数理统计、自动控制、数字信号处理、模拟与数字通信、时间序列分析、动态系统仿真等课程的教科书都把MATLAB作为内容。这几乎成了九十年代教科书与旧版书籍的区别性标志。在那里，MATLAB是攻读学位的大学生、硕士生、博士生必须掌握的基本工具。,19,医学数学挖掘SQL SERVER 2005 案例分析,一、人工神经网络简介,神经网络的软硬件实现 MATLAB的推出得到了各个领域的专家学者的广泛关注，在此基础上，专家们相继推出了MATLAB工具箱，主要包括信号处理、控制系统、神经网络、图像处理、鲁棒控制、非线性系统控制设计、系统辨识、最优化、模糊逻辑、小波等工具箱，这些工具箱给各个领域的研究和工程应用提供了有力的工具。,20,医学数学挖掘SQL SERVER 2005 案例分析,一、人工神经网络简介,二、MATLAB简介,MATLAB基本的学习方法 1、help指令 比如： help plot 2、lookfor指令：可以根据用户提供的完整或不完整的关键词，去搜索出一组与之有关的指令 3、doc、helpwin和helpdesk指令 4、demo指令 5、帮助菜单,21,医学数学挖掘SQL SERVER 2005 案例分析,二、MATLAB简介,语言规则 MATLAB要区分大小写，它的命令全是小写的。一行可以输入几个命令，用“；”或“，”隔开。如用“；”则该函数的执行结果不显示（图形函数除外）。如用“”则该函数的运行结果要显示。,22,医学数学挖掘SQL SERVER 2005 案例分析,二、MATLAB简介,数值与变量 数值 变量： 变量名、函数名是对大小写很敏感的，两个字符串表示的变量，字母都相同，大小写不同，也视为不同的变量； 第一个字母必须是英文字母； 字符间不可留空格； 最多只能有31个字符（只能用英文字母、数字和下连字符） 一行中“%”后的内容仅作注释用，对MATLAB的计算不产生任何影响。 Who、Whos、Clear和永久变量 符号变量：syms x,23,二、MATLAB简介,数据的输入和输出 （1）直接输入 （2）利用语句或函数产生 “初值:步长:终值” 产生一个行向量（行矩阵）。当步长为1时可以省略。如：1:5;1:2:6 特殊命令：linspace(x,x2,n): ones(n) （3）用input指令输入单个参数 （4）用小型矩阵或用数据文件输入,24,医学数学挖掘SQL SERVER 2005 案例分析,二、MATLAB简介,矩阵元素的操作 （1）矩阵元素的提取： （2）小矩阵构造大矩阵。 （3）：可以用它来删除矩阵的行列，或整个矩阵。,25,医学数学挖掘SQL SERVER 2005 案例分析,二、MATLAB简介,运算符 算术运算符：+，-，*,/, 关系运算符：=,=,=,26,医学数学挖掘SQL SERVER 2005 案例分析,二、MATLAB简介,M文件的编辑与建立 命令文件 按在指令窗口中的指令输入顺序，依次将指令编辑在命令文件中。 如果某个命令的结果不需要显示出则在该命令后加上“；”，注意文件名一定是“.m”。如： 函数文件 function 返回变量列表=函数名（输入变量列表） 命令文件的变量在文件执行完后保留在内存；而函数文件内定义的变量仅在函数文件内部起作用，当函数文件执行完成后，这些内部变量将被清除。,27,01:38:20,医学数学挖掘SQL SERVER 2005 案例分析,二、MATLAB简介,绘图命令 plot：绘制二维线性图形及两个坐标轴； plot(x,y)表示以x为横坐标，y为纵坐标的图形。 x=0:pi/100:2*pi;y=sin(x);plot(x,y) plot3：绘制三维线性图形及三个坐标轴；plot3(x,y,z) t=0:pi/100:6*pi;x=cos(t);y=sin(t);z=2*t;plot3(y,x,z),28,医学数学挖掘SQL SERVER 2005 案例分析,二、MATLAB简介,M文件的编辑与建立 命令文件 按在指令窗口中的指令输入顺序，依次将指令编辑在命令文件中。 如果某个命令的结果不需要显示出则在该命令后加上“；”，注意文件名一定是“.m”。如： 函数文件 function 返回变量列表=函数名（输入变量列表） 命令文件的变量在文件执行完后保留在内存；而函数文件内定义的变量仅在函数文件内部起作用，当函数文件执行完成后，这些内部变量将被清除。,29,医学数学挖掘SQL SERVER 2005 案例分析,二、MATLAB简介,Matlab的编程 条件语句 if条件1 语句块1 else 语句块2 end,30,医学数学挖掘SQL SERVER 2005 案例分析,二、MATLAB简介,Matlab的编程 switchcaseend分支结构 Switch 表达式 Case 常量表达式1 语句块1 case 常量表达式2 语句块2 case常量表达式n，常量表达式n+1, 常量表达式n+2 语句块n otherwise 语句块n+1 end,31,医学数学挖掘SQL SERVER 2005 案例分析,二、MATLAB简介,Matlab的编程 for循环语句 for循环变量=初值:步长:终值 循环体 end,32,医学数学挖掘SQL SERVER 2005 案例分析,二、MATLAB简介,Matlab的编程 while循环语句 while条件， 循环 end,33,01:38:20,医学数学挖掘SQL SERVER 2005 案例分析,三、神经网络建模基础,神经生理学和神经解剖学的研究结果表明，神经元(Neuron)是脑组织的基本单元，是人脑信息处理系统的最小单元。 生物神经元 生物神经网络,34,医学数学挖掘SQL SERVER 2005 案例分析,三、神经网络建模基础,生物神经元,35,医学数学挖掘SQL SERVER 2005 案例分析,生物神经元在结构上由: 细胞体(Cell body)、 树突(Dendrite)、 轴突(Axon)、 突触(Synapse) 四部分组成。用来完成神经元间信息的接收、传递和处理。,人工神经网络的生物学基础,36,医学数学挖掘SQL SERVER 2005 案例分析,三、神经网络建模基础,生物神经元:信息的产生 神经元间信息的产生、传递和处理是一种电化学活动。,37,医学数学挖掘SQL SERVER 2005 案例分析,三、神经网络建模基础,38,医学数学挖掘SQL SERVER 2005 案例分析,生物神经元:信息的传递与接收,三、神经网络建模基础,39,医学数学挖掘SQL SERVER 2005 案例分析,生物神经元:信息的整合,空间整合：同一时刻产生的刺激所引起的膜电位变化，大致等于各单独刺激引起的膜电位变化的代数和。,时间整合：各输入脉冲抵达神经元的时间先后不一样。总的突触后膜电位为一段时间内的累积。,生物神经网络,40,医学数学挖掘SQL SERVER 20