智智 能能 计计 算算 概概 述述华中师范大学计算机科学系 沈 显 君Department of Computer Science, Huazhong Normal University 智能 所以知之在人者，谓之知。知有所合，谓之智。所以能之在人者，谓之能。能有所合，谓之能。 荀况荀子正名Soft Computing Lab.2WASEDA UNIVERSITY , IPS课程目的课程目的o系统地讲授智能计算的有关基础理论、技术及其主要应用。o通过本课程的学习，要求学生系统地掌握智能计算的基本内容与方法，了解智能计算的主要应用领域。o将智能计算方法与学生未来研究方向相结合，培养学生独立科研思维能力。o介绍智能计算研究的前沿领域与最新进展，培养学生科研兴趣。Soft Computing Lab.3WASEDA UNIVERSITY , IPS开课基础开课基础 学习本课程之前，要求已经选修过高等数学、计算机基础与算法人工智能基础等课程。Soft Computing Lab.4WASEDA UNIVERSITY , IPS课程性质与考核课程性质与考核课程性质： 学位专业课（公共必修）教学方式： 课堂讲授为主，专题讨论为辅（学生）考试方式： 1）笔试 2）课程实验 3）课程研究论文Soft Computing Lab.5WASEDA UNIVERSITY , IPS要求：要求： 博学之，审问之、慎思之、明辨之，笃行之。 四书.礼记Soft Computing Lab.6WASEDA UNIVERSITY , IPS本课程的主要内容o第一部分：智能计算概述第一部分：智能计算概述o第二部分：演化计算第二部分：演化计算o第三部分：第三部分：神经计算神经计算o第四部分：群智能计算第四部分：群智能计算o第五部分：模糊计算第五部分：模糊计算o第六部分：其它智能计算（选）第六部分：其它智能计算（选）Soft Computing Lab.7WASEDA UNIVERSITY , IPS主要参考书籍主要参考书籍1）智能学简史冯天瑾 科学出版社2）计算智能理论、技术与应用丁永生 编著，科学出版社3）计算智能中的仿生学：理论与算法徐宗本，张讲社， 编著，科学出版社4）计算智能的数学基础褚蕾蕾、陈绥阳 编著，科学出版社5）智能信息处理熊和金 国防工业出版社6）软计算方法张颖 刘艳秋 科学出版社7）演化计算潘正君、康立山 清华大学出版社8）遗传算法-理论、应用与软件实现王小平 西安交通大学出版社9）遗传算法原理及应用周明、孙树栋 国防工业出版社Soft Computing Lab.8WASEDA UNIVERSITY , IPS主要参考书籍主要参考书籍10）神经计算科学阮晓钢 国防工业出版社11）人工神经网络教程韩力群 北京邮电大学出版社12）模糊数学教程 蒋泽军 国防工业出版社13）智能计算-关于粗集理论、模糊逻辑、神经网络的理 论及其应用曾黄麟 重庆大学出版社14）群智能算法及其应用15）微粒群算法 曾建潮、介婧 科学出版社16）蚁群优化意 Marco Dorigo著 张军 胡晓敏等译17）如何求解问题现代启发式方法Zbigniew Michalewicz著 曹宏庆 李艳等译 中国水利水电出版社 Soft Computing Lab.9WASEDA UNIVERSITY , IPS智能学智能学智能学： 即研究生物智能、人类智能以及人造智能的科学。 21世纪的科学技术，已经向我们展示了一个丰富多彩的智能世界：人类智能、生物智能、智能机器人、生物信息系统；人工智能、计算智能、机器学习、智能仪器、智能机器人、机器翻译、人机对弈、人工生命、人工免疫系统、人造昆虫、机器人足球赛。Soft Computing Lab.10WASEDA UNIVERSITY , IPS 智能计算是信息科学、生命科学、认知科学等不同学科智能计算是信息科学、生命科学、认知科学等不同学科相互交叉的产物。它主要借鉴相互交叉的产物。它主要借鉴仿生仿生学和学和拟物拟物的思想，基于人的思想，基于人们对生物体智能机理和某些自然规律的认识，采用数值计算们对生物体智能机理和某些自然规律的认识，采用数值计算的方法去模拟和实现人类的智能、生物智能、其它社会和自的方法去模拟和实现人类的智能、生物智能、其它社会和自然规律。然规律。 智能计算的主要研究领域包括：智能计算的主要研究领域包括：神经计算、演化计算、神经计算、演化计算、群智能计算、模糊计算群智能计算、模糊计算、免疫计算、免疫计算、DNADNA计算和人工生命等。计算和人工生命等。 本课程主要学习内容包括神经计算、演化计算、群智能本课程主要学习内容包括神经计算、演化计算、群智能计算和模糊计算等。计算和模糊计算等。智能计算智能计算Soft Computing Lab.11WASEDA UNIVERSITY , IPS计算计算 一切思维不过就是计算。 霍布斯 作为一般的智能行为，物质符号系统具有的计算手段，既是必要的也是充分的。人类认知和智能活动，经编码成符号系列，都可以通过计算机进行模拟。 西蒙Soft Computing Lab.12WASEDA UNIVERSITY , IPS梦 想o机器具有智能计算机科学家的梦想 什么是智能？能感知、能学习、能思维、能记忆、能决策、能行动，智能的核心是思维。 Soft Computing Lab.13WASEDA UNIVERSITY , IPS图灵测试o怎样判断机器具有智能图灵测试 19501950年年Alan TuringAlan Turing的文章的文章 “ “Computing Machinery and Computing Machinery and Intelligence.” Intelligence.” （MindMind, Vol. 59, No. 236, Vol. 59, No. 236）提出图灵测试，检验）提出图灵测试，检验一台机器或电脑是否具有如人一样的思维能力和智能一台机器或电脑是否具有如人一样的思维能力和智能电脑和人分别封闭在不同的电脑和人分别封闭在不同的房间，测试者不知道哪个房间房间，测试者不知道哪个房间是人，哪个房间是电脑，他向是人，哪个房间是电脑，他向双方提出测试问题，电脑和人双方提出测试问题，电脑和人给出各自的答案，如果一系列给出各自的答案，如果一系列的测试问题之后，测试者分不的测试问题之后，测试者分不出哪些是电脑的答案，哪些是出哪些是电脑的答案，哪些是人的答案，则电脑通过测试，人的答案，则电脑通过测试，确实具有与人一样的智能。确实具有与人一样的智能。我是人哦！我是谁？如实回答 ？Soft Computing Lab.14WASEDA UNIVERSITY , IPS测试悖论测试悖论o公平性问题 图灵测试的出发点显然是刁难电脑，要求电脑模仿人回答问题，公平吗？反过来要求人模仿电脑回答问题，公平吗？o标准性问题 在怎样的智能水平下对电脑进行测试？天才、普通人还是婴幼儿，或者说怎样认定电脑的智力水平？o全面性问题 怎样全面地测试电脑的智能，喜、怒、哀、乐和表情等有关情感的测试如何进行？测试边界怎样确定？o欺骗性问题 电脑如果有意欺骗测试者，测试者能判断出来吗？ 在一定的范围内进行测试还是可行的 Soft Computing Lab.15WASEDA UNIVERSITY , IPS困 惑o哲学问题 （1）规则与规律：规则是制定的，规律是客观存在的，从规则能自动发现规律吗？ （2）生命与非生命：智能是高等生命体独有的能力，非生命体内能产生智能吗？ （3）物质与意识：唯物主义和唯心主义都承认二元论，只是在何者起决定作用上争论不休，智能能在机器内产生将导致一元论物质生成一切？ （4）智能的本质：理性与感性、思考与行动、社会性与个体性o伦理问题 （1）电脑与人脑：能否互换？ （2）机器人与人：机器能否融入人类社会？ （3）情感与役使：机器是人制造并使用的工具，一旦机器人具有了智能和情感，人类还能当奴隶一样地役使吗？ （4）机器人叛乱：机器人群体有可能叛乱而反过来役使人类吗？Soft Computing Lab.16WASEDA UNIVERSITY , IPS现实的梦o比尔盖茨预测：智能计算发展前景乃是机器最终“能看会想，能听会讲”。o无论是人工智能，还是智能人工，只要能够殊途同归，造福于人类，那么所有的努力便都是有价值的。o未来，智能机器作为真正意义上的工作助手和生活良伴，将使我们的生活完全改观。o“聪明机器”的出现，也决不会成为人类的灾难，在智慧与创造力方面，永远是人类最有发言权。Soft Computing Lab.17WASEDA UNIVERSITY , IPS人工智能（artificial intelligence，简称AI）o人工智能人工智能：用人工的方法和技术，模仿、延伸和扩展人的智能用人工的方法和技术，模仿、延伸和扩展人的智能, , 实现机器智能。实现机器智能。o人工智能的人工智能的五个基本问题五个基本问题 (1) (1) 知识与概念化是否是人工智能的核心？知识与概念化是否是人工智能的核心？ (2) (2) 认知能力能否与载体分开来研究？认知能力能否与载体分开来研究？ (3) (3) 认知的轨迹是否可用类自然语言来描述？认知的轨迹是否可用类自然语言来描述？ (4) (4) 学习能力能否与认知分开来研究？学习能力能否与认知分开来研究？ (5) (5) 所有的认知是否有一种统一的结构？所有的认知是否有一种统一的结构？o学科交叉学科交叉 与生命科学、认知科学、物理学等众多学科高度交叉，共同研究智能行与生命科学、认知科学、物理学等众多学科高度交叉，共同研究智能行为的基本理论和实现技术。为的基本理论和实现技术。o三大学派三大学派 符号主义（符号主义（SymbolismSymbolism）、连接主义连接主义(Connectionism)(Connectionism)、行为主义行为主义（BehaviorismBehaviorism）从不同侧面模拟人的智能和智能行为。从不同侧面模拟人的智能和智能行为。Soft Computing Lab.18WASEDA UNIVERSITY , IPS符号主义o代表人物代表人物 19561956年，美国年，美国DartmouthDartmouth会议，几个年轻的美国学者会议，几个年轻的美国学者McCarthyMcCarthy、SimonSimon、MinskyMinsky、NewellNewell等首次提出人工智能的术语等首次提出人工智能的术语o基本思想基本思想 （1 1）认知的本质就是计算，可称为认知可计算主义）认知的本质就是计算，可称为认知可计算主义与图灵机理论一脉相承与图灵机理论一脉相承 （2 2）思维的基本单元是符号，智能的核心是利用知识以及知识推理进行问题）思维的基本单元是符号，智能的核心是利用知识以及知识推理进行问题求解求解 （3 3）智能活动的基础是物理符号运算，人脑和电脑都是物理符号系统）智能活动的基础是物理符号运算，人脑和电脑都是物理符号系统 （4 4）人的智能可以通过建了基于符号逻辑的智能理论体系模拟）人的智能可以通过建了基于符号逻辑的智能理论体系模拟 （5 5）理论基础是符号数学、谓词演算和归结原理）理论基础是符号数学、谓词演算和归结原理Soft Computing Lab.19WASEDA UNIVERSITY , IPS符号主义-续o智能表示智能表示 （1 1）19591959年年McCarthyMcCarthy开发了著名的开发了著名的LISPLISP语言（语言（LIStLISt Processing Processing LanguageLanguage，表处理语言），基于函数的语言，通过符号（不是数值）运算进，表处理语言），基于函数的语言，通过符号（不是数值）运算进行推理，也是逻辑程序设计语言（行推理，也是逻辑程序设计语言（Logic ProgrammingLogic Programming） （2 2）19721972年年PROLOGPROLOG语言（语言（PROgrammingPROgramming LOGicLOGic）问世，被称为演绎推理机，）问世，被称为演绎推理机，接口丰富，非常适合于专家系统开发，曾有人试图发明接口丰富，非常适合于专家系统开发，曾有人试图发明PROLOGPROLOG机器，以模拟机器，以模拟人的智能，但未获成功人的智能，但未获成功o知识工程与专家系统知识工程与专家系统典型代表典型代表 （1 1）产生式规则表示知识）产生式规则表示知识 （2 2）产生式规则系统将领域专家的知识进行整理、存储构建知识库）产生式规则系统将领域专家的知识进行整理、存储构建知识库 （3 3）专家系统运用知识库进行推理、问题求解等智能活动）专家系统运用知识库进行推理、问题求解等智能活动o推理方法推理方法 知识表示与推理、归纳推理、基于事例的推理等知识表示与推理、归纳推理、基于事例的推理等Soft Computing Lab.20WASEDA UNIVERSITY , IPS连接主义o代表人物代表人物 （1 1）19431943年生理学家年生理学家McCullochMcCulloch和和PittsPitts提出神经元的数学模型，神经元模型结合成多提出神经元的数学模型，神经元模型结合成多层结构成为神经网络层结构成为神经网络 （2 2）19591959年，年，RosenblattRosenblatt提出感知机模型（提出感知机模型（PerceptronPerceptron) )，具有输入层、中间联系层，具有输入层、中间联系层和效验输出层的三层结构和效验输出层的三层结构 （3 3）19821982年，年，HopfieldHopfield提出全互连的神经网络模型，成功求解提出全互连的神经网络模型，成功求解TSPTSP问题，掀起神经网问题，掀起神经网络研究高潮，对符号主义也产生了巨大冲击络研究高潮，对符号主义也产生了巨大冲击 （4 4）19871987年，戴维年，戴维. .努梅尔哈特和杰弗里努梅尔哈特和杰弗里. .欣顿提出误差反向传播（欣顿提出误差反向传播（Back-Back-PropgationPropgation）神经网络学习算法）神经网络学习算法o基本思想基本思想 （1 1）人类认知活动主要基于大脑神经元的活动，人类思维的基本单元是神经元而不是）人类认知活动主要基于大脑神经元的活动，人类思维的基本单元是神经元而不是符号，智能是互连神经元竞争与协作的结果符号，智能是互连神经元竞争与协作的结果 （2 2）模拟人的智能要依靠仿生学，特别是模拟人脑，建立脑模型）模拟人的智能要依靠仿生学，特别是模拟人脑，建立脑模型 （3 3）电脑模拟人脑应着重于结构模拟，即人的生理神经网络结构，功能、结构和行为）电脑模拟人脑应着重于结构模拟，即人的生理神经网络结构，功能、结构和行为密切相关，不同的结构表现出不同的功能行为密切相关，不同的结构表现出不同的功能行为 （4 4）分布式信息存储和大规模并行处理，自适应和自组织特性，学习和容错能力）分布式信息存储和大规模并行处理，自适应和自组织特性，学习和容错能力 （5 5）理论基础是神经生理学与脑科学）理论基础是神经生理学与脑科学Soft Computing Lab.21WASEDA UNIVERSITY , IPS神经元与神经网络 Soft Computing Lab.22WASEDA UNIVERSITY , IPS连接主义-续o智能表示智能表示 （1 1）神经元状态值、连接权值、阈值和激励函数决定输出值神经元状态值、连接权值、阈值和激励函数决定输出值-隐式表隐式表示方法示方法 （2 2）通过学习算法修正神经元之间的连接权值，达到更精确的知识表）通过学习算法修正神经元之间的连接权值，达到更精确的知识表示，学习算法包括有导师和无导师学习算法两类示，学习算法包括有导师和无导师学习算法两类o模式识别模式识别典型代表典型代表 （1 1）建立样本库）建立样本库 （2 2）特征提取与特征库）特征提取与特征库 （3 3）学习算法进行神经网络训练，模式的聚类、分类和识别）学习算法进行神经网络训练，模式的聚类、分类和识别o学习算法学习算法 提高学习和训练速度，保证全局收敛，网络结构设计和自适应调整提高学习和训练速度，保证全局收敛，网络结构设计和自适应调整Soft Computing Lab.23WASEDA UNIVERSITY , IPS行为主义o代表人物代表人物 19881988年，年，BrooksBrooks等人提出无需知识、知识表示和推理的智能系等人提出无需知识、知识表示和推理的智能系统，智能来自于系统的统，智能来自于系统的“感知感知- -动作动作”模式，基于这样的思路，他发模式，基于这样的思路，他发明了六足行走机器，一个模拟昆虫行为的控制器。明了六足行走机器，一个模拟昆虫行为的控制器。o基本思想基本思想 （1 1）智能是一个系统行为，智能行为可以通过与周围环境的的交）智能是一个系统行为，智能行为可以通过与周围环境的的交互作用表现出来互作用表现出来 （2 2）智能的基础是）智能的基础是“感知感知- -动作动作”模式，类似于心理学的模式，类似于心理学的“刺激刺激- -反应反应”，它也决定系统的结构和参量，它也决定系统的结构和参量 （3 3）系统的智能行为决定于系统的结构和参量）系统的智能行为决定于系统的结构和参量 （4 4）自组织、自学习、自适应是智能系统得基本特征）自组织、自学习、自适应是智能系统得基本特征 （5 5）理论基础是控制论、系统科学和心理学）理论基础是控制论、系统科学和心理学Soft Computing Lab.24WASEDA UNIVERSITY , IPS行为主义-续o智能表示智能表示 （1 1）系统模型、模型结构和参量）系统模型、模型结构和参量-隐式表示方法隐式表示方法 （2 2）学习就是一次又一次地从外界接受条件和结果，即）学习就是一次又一次地从外界接受条件和结果，即“感知感知- -动动作作”，积累知识的过程，积累知识的过程 （3 3）自学习是指：当一个新的输入条件决定后，能根据经验的积）自学习是指：当一个新的输入条件决定后，能根据经验的积累，给出相应结果的过程，或者当一个新的条件和结果给出后，能累，给出相应结果的过程，或者当一个新的条件和结果给出后，能够调整结构和参量的过程。够调整结构和参量的过程。o智能控制与智能机器人智能控制与智能机器人典型代表典型代表 （1 1）建立系统模型）建立系统模型 （2 2）行为（）行为（感知感知- -动作）动作）模拟，积累知识，形成基本控制策略模拟，积累知识，形成基本控制策略 （3 3）学习与自学习进行自适应调整与优化，形成新的控制策略）学习与自学习进行自适应调整与优化，形成新的控制策略o学习算法学习算法 自适应、自学习、自组织、自寻优等智能化方法自适应、自学习、自组织、自寻优等智能化方法Soft Computing Lab.25WASEDA UNIVERSITY , IPS面临困境o源于复杂性源于复杂性 知识的复杂性，知识表示的组合爆炸知识的复杂性，知识表示的组合爆炸 不完整知识的表达问题不完整知识的表达问题 推理的时空爆炸性推理的时空爆炸性 神经网络结构复杂神经网络结构复杂 学习、训练低效学习、训练低效 难以全局收敛难以全局收敛 能力限制能力限制 复杂行为模拟复杂行为模拟 不能用精确的数学模型描述的问题不能用精确的数学模型描述的问题 Soft Computing Lab.26WASEDA UNIVERSITY , IPS信息时代的呼唤工业时代工业时代能量资源能量资源-创造动力的工具创造动力的工具-获得能量获得能量物理学、化学物理学、化学创造动力工具的理论基础创造动力工具的理论基础信息时代信息时代信息资源信息资源-创造智能的工具创造智能的工具-获得智能获得智能智能计算理论智能计算理论创造智能工具的理论基础创造智能工具的理论基础Soft Computing Lab.27WASEDA UNIVERSITY , IPS什么是智能计算o智能计算智能计算（Computational IntelligenceComputational Intelligence，CICI）目前还没有一个统目前还没有一个统一的的定义，使用较多的是美国科学家贝慈德克（一的的定义，使用较多的是美国科学家贝慈德克（J.C.BezdekJ.C.Bezdek）从从智能计算系统角度所给出的定义智能计算系统角度所给出的定义: :o如果一个系统仅处理低层的数值数据，含有模式识别部件，没有使如果一个系统仅处理低层的数值数据，含有模式识别部件，没有使用人工智能意义上的知识，且具有计算适应性、计算容错力、接近用人工智能意义上的知识，且具有计算适应性、计算容错力、接近人的计算速度和近似于人的误差率这人的计算速度和近似于人的误差率这4 4个特性，则它是智能计算的。个特性，则它是智能计算的。o从学科范畴看从学科范畴看，智能计算是在神经网络（智能计算是在神经网络（Neural Networks,NNNeural Networks,NN）、演化计算（演化计算（Evolutionary Computation,ECEvolutionary Computation,EC）及模糊系统（及模糊系统（Fuzzy Fuzzy System,FSSystem,FS）这）这3 3个领域发展相对成熟的基础上形成的一个统一的学个领域发展相对成熟的基础上形成的一个统一的学科概念。科概念。 Soft Computing Lab.28WASEDA UNIVERSITY , IPS智能计算与人工智能的关系智能计算与人工智能的关系o目前，对智能计算与人工智能的关系有目前，对智能计算与人工智能的关系有2 2种不同观点，一种点认为智能种不同观点，一种点认为智能计算是人工智能的一个子集，另一种观点认为智能计算和人工智能是不计算是人工智能的一个子集，另一种观点认为智能计算和人工智能是不同的范畴。同的范畴。o第一种观点第一种观点的代表人物是贝慈德克。他把智能（的代表人物是贝慈德克。他把智能（IntelligenceIntelligence，I I）和和神经网络（神经网络（Neural NetworkNeural Network，NNNN）都分为计算的（都分为计算的（ComputationalComputational，C C）、）、人工的（人工的（ArtificialArtificial，A A）和生物的（和生物的（Biological,BBiological,B）3 3个层次，并以模个层次，并以模式识别（式识别（PRPR）为例，给出了下图所示的智能的层次结构。为例，给出了下图所示的智能的层次结构。o在该图中，底层是计算智能（在该图中，底层是计算智能（CICI），），它通过数值计算来实现，其基础是它通过数值计算来实现，其基础是CNNCNN；中间层是人工智能（；中间层是人工智能（AIAI），），它通过人造的符号系统实现，其基础它通过人造的符号系统实现，其基础是是ANNANN；顶层是生物智能（；顶层是生物智能（BIBI），），它通过生物神经系统来实现，其基础它通过生物神经系统来实现，其基础是是BNNBNN。o按照贝慈德克的观点，按照贝慈德克的观点，CNNCNN是指按生物激励模型构造的是指按生物激励模型构造的NNNN，ANNANN是指是指CNN+CNN+知识，知识，BNNBNN是指人脑，即是指人脑，即ANNANN包含了包含了CNNCNN，BNNBNN又包含了又包含了ANNANN。对智能也一对智能也一样，贝慈德克认为样，贝慈德克认为AIAI包含了包含了CICI，BIBI又包含了又包含了AIAI，即智能计算是人工智能即智能计算是人工智能的一个子集。的一个子集。Soft Computing Lab.29WASEDA UNIVERSITY , IPSCNNCPRCIANNAPRAIBNNBPRBI人类知识人类知识(+)传感输入传感输入知识知识(+)传感数据传感数据计算计算(+)传感器传感器B生物的生物的A符号的符号的C数值的数值的复复杂杂性性复杂性复杂性输入输入层次层次贝慈德克的智能的贝慈德克的智能的3个层次个层次Soft Computing Lab.30WASEDA UNIVERSITY , IPSo第二种观点第二种观点是大多数学者所持有的观点，其代表人物是艾伯哈特是大多数学者所持有的观点，其代表人物是艾伯哈特（R.C.Eberhart）。）。他们认为：虽然人工智能与智能计算之间有他们认为：虽然人工智能与智能计算之间有重合，但智能计算是一个全新的学科领域，无论是生物智能还是机重合，但智能计算是一个全新的学科领域，无论是生物智能还是机器智能，智能计算都是其最核心的部分，而人工智能则是外层。器智能，智能计算都是其最核心的部分，而人工智能则是外层。o事实上，事实上，CI和传统的和传统的AI只是智能的两个不同层次，各自都有自身只是智能的两个不同层次，各自都有自身的优势和局限性，相互之间只应该互补，而不能取代。的优势和局限性，相互之间只应该互补，而不能取代。o大量实践证明，只有把大量实践证明，只有把AI和和CI很好地结合起来，才能更好地模拟很好地结合起来，才能更好地模拟人类智能，才是智能科学技术发展的正确方向。人类智能，才是智能科学技术发展的正确方向。智能计算与人工智能的关系智能计算与人工智能的关系Soft Computing Lab.31WASEDA UNIVERSITY , IPS智能计算的产生与发展智能计算的产生与发展o1992年，年，贝慈德克贝慈德克在在ApproximateReasoning学报上首次学报上首次提出了提出了“智智能计算能计算”的概念。的概念。o1994年年6月底到月底到7月初，月初，IEEE在美国佛罗里达州的奥兰多市召开了首届国际在美国佛罗里达州的奥兰多市召开了首届国际智能计算大会智能计算大会(简称简称WCCI94)。会议第一次将神经网络、演化计算和模糊会议第一次将神经网络、演化计算和模糊系统这三个领域合并在一起，形成了系统这三个领域合并在一起，形成了“智能计算智能计算”这个统一的学科范畴。这个统一的学科范畴。o在此之后，在此之后，WCCI大会就成了大会就成了IEEE的一个系列性学术会议，每的一个系列性学术会议，每4年举办一年举办一次。次。1998年年5月，在美国阿拉斯加州的安克雷奇市又召开了第月，在美国阿拉斯加州的安克雷奇市又召开了第2届智能计算届智能计算国际会议国际会议WCCI98。2002年年5月，在美国州夏威夷州首府火奴鲁鲁市又召月，在美国州夏威夷州首府火奴鲁鲁市又召开了第开了第3届智能计算国际会议届智能计算国际会议WCCI02。此外，此外，IEEE还出版了一些与智能还出版了一些与智能计算有关的刊物。计算有关的刊物。o目前，智能计算的发展得到了国内外众多的学术组织和研究机构的高度重目前，智能计算的发展得到了国内外众多的学术组织和研究机构的高度重视，并已成为智能科学技术一个重要的研究领域。视，并已成为智能科学技术一个重要的研究领域。Soft Computing Lab.32WASEDA UNIVERSITY , IPS智能计算-回归自然o自下而上的研究思路自下而上的研究思路 传传统统人人工工智智能能研研究究思思路路是是自自上上而而下下，现现代代智智能能计计算算方方法法强强调调通通过过计算实现生物内在的智能行为，也称为智能计算计算实现生物内在的智能行为，也称为智能计算o从简单到复杂的演化进程从简单到复杂的演化进程 智智能能的的获获得得不不是是一一蹴蹴而而就就，是是渐渐进进式式的的积积累累过过程程，简简单单中中孕孕育育复复杂，平凡中蕴含智慧杂，平凡中蕴含智慧o在传统学科中寻找算法在传统学科中寻找算法 如如生生命命科科学学（遗遗传传算算法法）、物物理理学学（模模拟拟退退火火算算法法）和和化化学学（DNADNA计算）等计算）等o从自然与社会系统中获得灵感从自然与社会系统中获得灵感 如如蚂蚂蚁蚁算算法法、禁禁忌忌搜搜索索和和粒粒子子群群优优化化方方法法，模模糊糊计计算算及及模模糊糊系系统统、粗造集及其系统粗造集及其系统Soft Computing Lab.33WASEDA UNIVERSITY , IPS相互关系 智能计算与人工智能的界限并非十分明显，智能计算与人工智能的界限并非十分明显，19921992年年BezdekBezdek给出了一个有给出了一个有趣的关系图，其中趣的关系图，其中 NNNN神经网络，神经网络，PRPR模式识别，模式识别，I I智能智能oA AArtificialArtificial， 表示人工的（非生物的），即人造的表示人工的（非生物的），即人造的oB BBiologicalBiological， 表示物理的化学的（？）生物的表示物理的化学的（？）生物的oC CComputationalComputational， 表示数学计算机表示数学计算机ABC的关系图的关系图智能计算是一种智力方式的低层认知，传统人工智能智能计算是一种智力方式的低层认知，传统人工智能是中层认知，中层系统含有知识，当一个智能计算系是中层认知，中层系统含有知识，当一个智能计算系统以非数值方式加上知识值，则为人工智能系统统以非数值方式加上知识值，则为人工智能系统 Soft Computing Lab.34WASEDA UNIVERSITY , IPS自然计算o自然计算的含义自然计算的含义 学习、运用自然规律，模拟自然系统乃至社会系统学习、运用自然规律，模拟自然系统乃至社会系统的演变过程的智能计算方法，借鉴自然科学学科的原理的演变过程的智能计算方法，借鉴自然科学学科的原理和理论进行问题的求解方法和理论进行问题的求解方法o自然计算方法自然计算方法 演化计算、蚁群算法、粒子群优化方法、人工免疫演化计算、蚁群算法、粒子群优化方法、人工免疫系统、模糊计算系统、模糊计算Soft Computing Lab.35WASEDA UNIVERSITY , IPS演化计算o演化计算的概念演化计算的概念： （Evolutionary Evolutionary Computation,ECComputation,EC）是在达尔文（）是在达尔文（DarwinDarwin）的）的进化论和孟德尔（进化论和孟德尔（MendelMendel）的遗传变异理论的基础上产生的一种在基因和种群层）的遗传变异理论的基础上产生的一种在基因和种群层次上模拟自然界生物进化过程与机制，进行问题求解的次上模拟自然界生物进化过程与机制，进行问题求解的自组织自组织、自、自适应适应的随机搜的随机搜索技术。它以达尔文进化论的索技术。它以达尔文进化论的“物竟天择、适者生存物竟天择、适者生存”作为算法的进化规则，并作为算法的进化规则，并结合孟德尔的结合孟德尔的遗传变异遗传变异理论，将生物进化过程中的理论，将生物进化过程中的繁殖、变异、竞争和选择繁殖、变异、竞争和选择引入引入到了算法中，是一种对人类智能的演化模拟方法。到了算法中，是一种对人类智能的演化模拟方法。o演化计算的主要分支：演化计算的主要分支：遗传算法、演化策略、演化规划和遗传规划遗传算法、演化策略、演化规划和遗传规划四大分支。其四大分支。其中，遗传算法是演化计算中最初形成的一种具有普遍影响的模拟演化优化算法。中，遗传算法是演化计算中最初形成的一种具有普遍影响的模拟演化优化算法。o遗传算法的基本思想：遗传算法的基本思想：( (美国密执安大学霍兰德教授美国密执安大学霍兰德教授19621962提出提出) )是使用模拟生物和是使用模拟生物和人类进化的方法来求解复杂问题。它从初始种群出发，采用人类进化的方法来求解复杂问题。它从初始种群出发，采用优胜略汰、适者生存优胜略汰、适者生存的自然法则选择个体，并通过杂交、变异产生新一代种群，如此逐代进化，直到的自然法则选择个体，并通过杂交、变异产生新一代种群，如此逐代进化，直到满足目标为止。满足目标为止。Soft Computing Lab.36WASEDA UNIVERSITY , IPS演化计算（进化计算）演化计算（进化计算） 人倾向于线性地思考问题，而进化（Evolution）则常常以人们意象不到的方式解决问题。 弗格什么是进化计算Soft Computing Lab.37WASEDA UNIVERSITY , IPS 演化计算是一种模拟自然界生物进化过程与机制进行问题求解的演化计算是一种模拟自然界生物进化过程与机制进行问题求解的自组织、自适应的随机搜索技术。它以达尔文进化论的自组织、自适应的随机搜索技术。它以达尔文进化论的“物竟天择、物竟天择、适者生存适者生存”作为算法的进化规则，并结合孟德尔的遗传变异理论，将作为算法的进化规则，并结合孟德尔的遗传变异理论，将生物进化过程中的生物进化过程中的 繁殖（繁殖（ReproductionReproduction） 变异（变异（MutationMutation） 竞争（竞争（CompetitionCompetition） 选择（选择（SelectionSelection）引入到了算法中。引入到了算法中。演化计算概述演化计算概述 (1)什么是演化计算什么是演化计算Soft Computing Lab.38WASEDA UNIVERSITY , IPS (2)(2) 演化计算的生物学基础演化计算的生物学基础 自然界的生物进化过程是演化计算的生物学基础，它主要包括遗传自然界的生物进化过程是演化计算的生物学基础，它主要包括遗传（HeredityHeredity）、变异（）、变异（MutationMutation）和演化（）和演化（EvolutionEvolution）理论。）理论。 遗传理论遗传理论 所谓遗传是指父代（或亲代）利用遗传基因将自身的基因信息传递给下所谓遗传是指父代（或亲代）利用遗传基因将自身的基因信息传递给下一代（或子代），使子代能够继承其父代的特征或性状的这种生命现象。正一代（或子代），使子代能够继承其父代的特征或性状的这种生命现象。正是由于遗传的作用，人们才能是由于遗传的作用，人们才能“种瓜得瓜，种豆得豆种瓜得瓜，种豆得豆”，自然界才能有稳定，自然界才能有稳定的物种。的物种。 在自然界，构成生物基本结构与功能的单位是细胞（在自然界，构成生物基本结构与功能的单位是细胞（CellCell）。）。 细胞中含有一种包含着所有遗传信息的复杂而又微小的丝状化合物，人细胞中含有一种包含着所有遗传信息的复杂而又微小的丝状化合物，人们称其为染色体（们称其为染色体（ChromosomeChromosome）。）。 在染色体中，遗传信息由在染色体中，遗传信息由基因（基因（GeneGene）所组成，基因决定着生物的性状，所组成，基因决定着生物的性状，是遗传的基本单位。是遗传的基本单位。 染色体的形状是一种双螺旋结构，构成染色体的主要物质叫做脱氧核糖染色体的形状是一种双螺旋结构，构成染色体的主要物质叫做脱氧核糖核酸（核酸（Deoxyribonucleic AcidDeoxyribonucleic Acid，DNADNA），每个基因都在），每个基因都在DNADNA长链中占有一定长链中占有一定的位置。的位置。 一个细胞中的所有染色体所携带的遗传信息的全体称为一个基因组一个细胞中的所有染色体所携带的遗传信息的全体称为一个基因组（GenomeGenome）。）。 细胞在分裂过程中，其遗传物质细胞在分裂过程中，其遗传物质DNADNA通过复制转移到新生细胞中，从而实通过复制转移到新生细胞中，从而实现了生物的遗传功能。现了生物的遗传功能。Soft Computing Lab.39WASEDA UNIVERSITY , IPS 变异理论变异理论 变异变异 是指子代和父代之间，以及子代的各个不同个体之间产生差异的是指子代和父代之间，以及子代的各个不同个体之间产生差异的现象。变异是生物进化过程中发生的一种随机现象，它是一种不可逆过程。现象。变异是生物进化过程中发生的一种随机现象，它是一种不可逆过程。变异在生物多样性方面具有不可替代的作用，其选择和积累是生物多样性变异在生物多样性方面具有不可替代的作用，其选择和积累是生物多样性的根源。的根源。 引起变异的主要原因有两种，一种是杂交，另一种是复制差错。所谓杂引起变异的主要原因有两种，一种是杂交，另一种是复制差错。所谓杂交是指有性生殖生物在繁殖下一代时两个同源染色体之间的交配重组，即交是指有性生殖生物在繁殖下一代时两个同源染色体之间的交配重组，即两个染色体在某一相同处的两个染色体在某一相同处的DNADNA被切断后再进行交配重组，形成两个新的染被切断后再进行交配重组，形成两个新的染色体。所谓复制差错是指在细胞复制过程中因色体。所谓复制差错是指在细胞复制过程中因DNADNA上某些基因结构的随机改上某些基因结构的随机改变而产生出新的染色体。变而产生出新的染色体。 进化论进化论 进化是指在生物延续生存过程中，逐渐适应其生存环境，使得其品质进化是指在生物延续生存过程中，逐渐适应其生存环境，使得其品质不断得到改良的这种生命现象。遗传和变异是生物进化的两种基本现象，不断得到改良的这种生命现象。遗传和变异是生物进化的两种基本现象，优胜劣汰、适者生存是生物进化的基本规律。优胜劣汰、适者生存是生物进化的基本规律。 达尔文的达尔文的自然选择自然选择（Natural SelectionNatural Selection）学说认为：在生物进化中，）学说认为：在生物进化中，一种基因有可能发生变异而产生出另一种新的生物基因。这种新基因将依一种基因有可能发生变异而产生出另一种新的生物基因。这种新基因将依据其与生存环境的适应性而决定其增殖能力。一般情况下，适应性强的基据其与生存环境的适应性而决定其增殖能力。一般情况下，适应性强的基因会不断增多，而适应性差的基因则会逐渐减少。通过这种自然选择，物因会不断增多，而适应性差的基因则会逐渐减少。通过这种自然选择，物种将逐渐向适应于生存环境的方向进化，甚至会演变成为另一个新的物种，种将逐渐向适应于生存环境的方向进化，甚至会演变成为另一个新的物种，而那些不适应于环境的物种将会逐渐被淘汰。而那些不适应于环境的物种将会逐渐被淘汰。Soft Computing Lab.40WASEDA UNIVERSITY , IPS2.演化计算的产生与发展演化计算的产生与发展 演化计算自演化计算自20世纪世纪50年代以来，其发展过程大致可三个阶段。年代以来，其发展过程大致可三个阶段。 萌芽阶段萌芽阶段 这一阶段是从这一阶段是从20世纪世纪50年代后期到年代后期到70年代中期。年代中期。20世纪世纪50年代后期，一些年代后期，一些生物学家在研究如何用计算机模拟生物遗传系统中，产生了生物学家在研究如何用计算机模拟生物遗传系统中，产生了遗传算法遗传算法的基本思想，的基本思想，并于并于1962年由美国密执安（年由美国密执安（Michigan）大学霍兰德（）大学霍兰德（Holland）教授提出。）教授提出。1965年德国数学家雷切伯格（年德国数学家雷切伯格（Rechenberg）等人提出了一种只有单个个体参与）等人提出了一种只有单个个体参与演化，并且仅有变异这一种演化操作的演化，并且仅有变异这一种演化操作的演化策略演化策略。同年，美国学者弗格尔。同年，美国学者弗格尔（Fogel）提出了一种具有多个个体和仅有变异一种演化操作的）提出了一种具有多个个体和仅有变异一种演化操作的演化规划演化规划。1969年美国密执安（年美国密执安（Michigan）大学的霍兰德（）大学的霍兰德（Holland）教授提出了系统本身和外）教授提出了系统本身和外部环境相互协调的遗传算法。至此，演化计算的三大分支基本形成。部环境相互协调的遗传算法。至此，演化计算的三大分支基本形成。 成长阶段成长阶段 这一阶段是从这一阶段是从20世纪世纪70年代中期到年代中期到80年代后期。年代后期。1975年，霍兰德教授出版年，霍兰德教授出版专著专著自然和人工系统的适应性（自然和人工系统的适应性（AdaptationinNaturalandArtificialSystem），全面介绍了遗传算法。同年，德国学者施韦费尔（，全面介绍了遗传算法。同年，德国学者施韦费尔（Schwefel）在）在其博士论文中提出了一种由多个个体组成的群体参与演化的，并且包括了变异和其博士论文中提出了一种由多个个体组成的群体参与演化的，并且包括了变异和重组（重组（Recombination）这两种演化操作的更加完善的演化策略。）这两种演化操作的更加完善的演化策略。1989年，霍年，霍兰德教授的学生戈尔德伯格（兰德教授的学生戈尔德伯格（Goldberg）博士出版专著）博士出版专著遗传算法遗传算法-搜索、优搜索、优化及机器学习（化及机器学习（GeneticAlgorithm-inSearchOptimizationandMachineLearning），使遗传算法得到了普及与推广。，使遗传算法得到了普及与推广。Soft Computing Lab.41WASEDA UNIVERSITY , IPS 这一阶段是从这一阶段是从20世纪世纪90年代至今。年代至今。1989年，美国斯坦福年，美国斯坦福（Stanford）大学的科扎（）大学的科扎（Koza）提出了遗传规划的新概念，）提出了遗传规划的新概念，并于并于1992年出版了专著年出版了专著遗传规划遗传规划-应用自然选择法则的计应用自然选择法则的计算机程序设计（算机程序设计（GeneticProgramming:ontheProgrammingofComputerbyMeansofNaturalSelection）该书全面介绍了遗传规划的基本原理及应用实例，该书全面介绍了遗传规划的基本原理及应用实例，标志着遗传规划作为智能计算的一个分支已基本形成。标志着遗传规划作为智能计算的一个分支已基本形成。 进入进入20世纪世纪90年代以来，演化计算得到了众多研究机构和年代以来，演化计算得到了众多研究机构和学者的高度重视，新的研究成果不断出现、应用领域不断扩大。学者的高度重视，新的研究成果不断出现、应用领域不断扩大。目前，演化计算已成为人工智能领域的又一个新的研究热点。目前，演化计算已成为人工智能领域的又一个新的研究热点。 发展阶段发展阶段Soft Computing Lab.42WASEDA UNIVERSITY , IPS 3. 3. 演化计算的基本结构演化计算的基本结构 演化计算尽管有多个重要分支，并且不同分支的编码方案、选择策略和演化计算尽管有多个重要分支，并且不同分支的编码方案、选择策略和演化操作也有可能不同，但它们却有着共同的演化框架。若假设演化操作也有可能不同，但它们却有着共同的演化框架。若假设P P为种群为种群(Population(Population，或称为群体，或称为群体) )，t t为演化代数，为演化代数， P(t)P(t)为第为第t t代种群代种群 , , 则演化计则演化计算的基本结构可粗略描述如下：算的基本结构可粗略描述如下： 确定编码形式并生成搜索空间；确定编码形式并生成搜索空间； 初始化各个演化参数，并设置演化代数初始化各个演化参数，并设置演化代数t=0t=0； 初始化种群初始化种群P(0);P(0); 对初始种群进行评价（即适应度计算）；对初始种群进行评价（即适应度计算）； whilewhile（不满足终止条件）（不满足终止条件）dodo t=t+1; t=t+1; 利用选择操作从利用选择操作从P(t-1)P(t-1)代中选出代中选出P(t)P(t)代群体；代群体； 对对P(t)P(t)代种群执行演化操作；代种群执行演化操作； 对执行完演化操作后的种群进行评价（即适应度计算）；对执行完演化操作后的种群进行评价（即适应度计算）； 可以看出，上述基本结构包含了生物演化中所必需的选择操作、演化操可以看出，上述基本结构包含了生物演化中所必需的选择操作、演化操作和适应度评价等过程。作和适应度评价等过程。Soft Computing Lab.43WASEDA UNIVERSITY , IPS遗传算法o遗传算法（遗传算法（Genetic AlgorithmGenetic Algorithm）模拟达尔文的遗传选择和自然淘汰模拟达尔文的遗传选择和自然淘汰的生物进化过程的生物进化过程o1975 1975 年首先由年首先由HollandHolland提出用于自提出用于自然和人工系统的自适应行为研究然和人工系统的自适应行为研究(Adaptation in Natural and (Adaptation in Natural and Artificial Systems) Artificial Systems) o组成：个体与群体、适应值函数、组成：个体与群体、适应值函数、遗传操作、终止条件遗传操作、终止条件o特点：隐含并行性、过程性、非确特点：隐含并行性、过程性、非确定性、群体性、内在学习、统计性、定性、群体性、内在学习、统计性、稳健性、整体优化稳健性、整体优化 Soft Computing Lab.44WASEDA UNIVERSITY , IPS神经计算神经计算 麦克卡洛和匹茨把生物脑神经系统研究、数理逻辑思想以及图灵的计算理论相结合，将其成果转向人造物，这是有一次科学飞跃，可视为人工智能（计算智能）的起步。 能不能造出有智能的机器？在这方面取得重大突破的，就是继莱布尼茨、巴贝奇、图灵之后的冯.诺依曼。Soft Computing Lab.45WASEDA UNIVERSITY , IPS神经计算神经计算神经计算是以人工神经网络为基础的一种智能计算方法。神经计算是以人工神经网络为基础的一种智能计算方法。它。它是智能计算的重要基础和核心，也是智能计算乃至智它。它是智能计算的重要基础和核心，也是智能计算乃至智能科学技术的一个重要研究领域。能科学技术的一个重要研究领域。Soft Computing Lab.46WASEDA UNIVERSITY , IPS生物神经系统简介生物神经系统简介生物神经系统是人工神经网络的基础。人工神经网络是对生物神经系统是人工神经网络的基础。人工神经网络是对人脑神经系统的简化、抽象和模拟，具有人脑功能的许多基本人脑神经系统的简化、抽象和模拟，具有人脑功能的许多基本特征。特征。Soft Computing Lab.47WASEDA UNIVERSITY , IPS(1)生物神经元的结构生物神经元的结构神经末梢突触轴突树突细胞核细胞体它由细胞体它由细胞体(Soma)、轴突、轴突(Axon)和树突和树突(Dendrite)三个主要部分组成三个主要部分组成 细胞体细胞体由细胞核、细胞质和细胞膜等组成，其直径大约为由细胞核、细胞质和细胞膜等组成，其直径大约为0.5-0.5-100m100m，大小不等。细胞体是神经元的主体，用于处理由树突接受的其，大小不等。细胞体是神经元的主体，用于处理由树突接受的其它神经元传来的信号它神经元传来的信号, ,其内部是细胞核，外部是细胞膜，细胞膜的外面其内部是细胞核，外部是细胞膜，细胞膜的外面是许多向外延伸出的纤维。是许多向外延伸出的纤维。 Soft Computing Lab.48WASEDA UNIVERSITY , IPS 轴突轴突是由细胞体向外延伸出的所有纤维中最长的一条分是由细胞体向外延伸出的所有纤维中最长的一条分枝，用来向外传递神经元产生的输出电信号。枝，用来向外传递神经元产生的输出电信号。 每个神经元都有一条轴突，其最大长度可达每个神经元都有一条轴突，其最大长度可达1m1m以上。在以上。在轴突的末端形成了许多很细的分枝，这些分支叫神经末梢。轴突的末端形成了许多很细的分枝，这些分支叫神经末梢。 每一条神经末梢可以与其它神经元形成功能性接触，该每一条神经末梢可以与其它神经元形成功能性接触，该接触部位称为突触。所谓功能性接触，是指非永久性的接触，接触部位称为突触。所谓功能性接触，是指非永久性的接触，这正是神经元之间传递信息的奥秘之处。这正是神经元之间传递信息的奥秘之处。树突树突是指由细胞体向外延伸的除轴突以外的其它所有分支。是指由细胞体向外延伸的除轴突以外的其它所有分支。树突的长度一般较短，但数量很多，它是神经元的输入端，树突的长度一般较短，但数量很多，它是神经元的输入端，用于接受从其它神经元的突触传来的信号。用于接受从其它神经元的突触传来的信号。Soft Computing Lab.49WASEDA UNIVERSITY , IPS(2)生物神经元的功能生物神经元的功能 根据神经生理学的研究，生物神经元的根据神经生理学的研究，生物神经元的2 2个主要功能是个主要功能是: :神经元的兴奋与神经元的兴奋与抑制，神经元内神经冲动的传导。抑制，神经元内神经冲动的传导。 神经元的抑制与兴奋神经元的抑制与兴奋 抑制状态是指神经元在没有产生冲动时的工作状态。抑制状态是指神经元在没有产生冲动时的工作状态。 兴奋状态是指神经元产生冲动时的工作状态。兴奋状态是指神经元产生冲动时的工作状态。 通常情况下，神经元膜电位约为通常情况下，神经元膜电位约为-70 -70 毫伏，膜内为负，膜外为正，处于毫伏，膜内为负，膜外为正，处于抑制状态。当神经元受到外部刺激时，其膜电位随之发生变化，即膜内电抑制状态。当神经元受到外部刺激时，其膜电位随之发生变化，即膜内电位上升、膜外电位下降，当膜内外的电位差大于阈值电位（约位上升、膜外电位下降，当膜内外的电位差大于阈值电位（约+40+40毫伏）毫伏）时，神经元产生冲动而进入兴奋状态。时，神经元产生冲动而进入兴奋状态。 说明说明: :神经元每次冲动的持续时间大约神经元每次冲动的持续时间大约1 1毫秒左右，在此期间即使刺激强度再增毫秒左右，在此期间即使刺激强度再增加也不会引起冲动强度的增加。加也不会引起冲动强度的增加。 神经元每次冲动结束后，都会重新回到抑制状态。神经元每次冲动结束后，都会重新回到抑制状态。 如果神经元受到的刺激作用不能使细胞膜内外的电位差大于阈值电位，则神经如果神经元受到的刺激作用不能使细胞膜内外的电位差大于阈值电位，则神经元不会产生冲动，将仍处于抑制状态元不会产生冲动，将仍处于抑制状态。 神经元内神经冲动的传导神经元内神经冲动的传导 神经冲动在神经元内的传导是一种电传导过程，神经冲动沿神经纤维传神经冲动在神经元内的传导是一种电传导过程，神经冲动沿神经纤维传导的速度却在导的速度却在3.2-320km/s3.2-320km/s之间，且其传导速度与纤维的粗细、髓鞘的之间，且其传导速度与纤维的粗细、髓鞘的有无有一定关系。一般来说，有髓鞘的纤维的传导速度较快，而无髓鞘的有无有一定关系。一般来说，有髓鞘的纤维的传导速度较快，而无髓鞘的纤维的传导速度较慢。纤维的传导速度较慢。Soft Computing Lab.50WASEDA UNIVERSITY , IPS(3)人脑神经系统的联结机制人脑神经系统的联结机制1.人脑神经系统的联结规模人脑神经系统的联结规模人脑大约由人脑大约由1011-1012个神经元所组成，其中每个神经元大约有个神经元所组成，其中每个神经元大约有3104个突触。个突触。小脑中的每个神经元大约有小脑中的每个神经元大约有105个突触，并且每个突触都可以与别的个突触，并且每个突触都可以与别的神经元的一个树突相连。神经元的一个树突相连。人脑神经系统就是由这些巨量的生物神经元经广泛并行互连所形成的人脑神经系统就是由这些巨量的生物神经元经广泛并行互连所形成的一个高度并行性、非常复杂的神经网络系统。一个高度并行性、非常复杂的神经网络系统。2.人脑神经系统的分布功能人脑神经系统的分布功能人脑神经系的记忆和处理功能是有机的结合在一起的，每个神经元人脑神经系的记忆和处理功能是有机的结合在一起的，每个神经元既具有存储功能，同时又具有处理能力。既具有存储功能，同时又具有处理能力。从结构上看，人脑神经系统又是一种分布式系统统。人们通过对脑从结构上看，人脑神经系统又是一种分布式系统统。人们通过对脑损坏病人所做的神经生理学研究，没有发现大脑中的哪一部分可以决定损坏病人所做的神经生理学研究，没有发现大脑中的哪一部分可以决定其余所有各部分的活动，也没有发现在大脑中存在有用于驱动和管理整其余所有各部分的活动，也没有发现在大脑中存在有用于驱动和管理整个智能处理过程的任何中央控制部分。个智能处理过程的任何中央控制部分。人类大脑的各个部分是协同工作、相互影响的。在大脑中，不仅知人类大脑的各个部分是协同工作、相互影响的。在大脑中，不仅知识的存储是分散的，而且其控制和决策也是分散的。识的存储是分散的，而且其控制和决策也是分散的。 Soft Computing Lab.51WASEDA UNIVERSITY , IPS人工神经网络的工作原理人工神经网络的工作原理 根据一个简化的统计，人脑由百亿条神经组成 每条神经平均连结到其它几千条神经。通过这种连结方式，神经可以收发不同数量的能量。 神经的一个非常重要的功能是它们对能量的接受并不是立即作出响应，而是将它们累加起来，当这个累加的总和达到某个临界阈值时，它们将它们自己的那部分能量发送给其它的神经。大脑通过调节这些连结的数目和强度进行学习。尽管这是个生物行为的简化描述。但同样可以充分有力地被看作是神经网络的模型。 Soft Computing Lab.52WASEDA UNIVERSITY , IPS人工神经网络的工作原理人工神经网络的工作原理 人的思维有逻辑性和直观性两种不同的基本方式。 逻辑性的思维是指根据逻辑规则进行推理的过程；它先将信息化成概念，并用符号表示，然后，根据符号运算按串行模式进行逻辑推理；这一过程可以写成串行的指令，让计算机执行。 直观性的思维是将分布式存储的信息综合起来，结果是忽然间产生想法或解决问题的办法。这种思维方式的根本之点在于以下两点: 1）信息是通过神经元上的兴奋模式分布储在网络上; 2）信息处理是通过神经元之间同时相互作用的动态过程来完成的。 Soft Computing Lab.53WASEDA UNIVERSITY , IPS人工神经网络的工作原理人工神经网络的工作原理 人工神经网络就是模拟人思维的第二种方式。这是一个非线性动力学系统，其特色在于信息的分布式存储和并行协同处理。虽然单个神经元的结构极其简单，功能有限，但大量神经元构成的网络系统所能实现的行为却是极其丰富多彩的。 Soft Computing Lab.54WASEDA UNIVERSITY , IPS人工神经网络的工作原理人工神经网络的工作原理 人工神经网络首先要以一定的学习准则进行学习，然后才能工作。 现以人工神经网络对手写“A”、“B”两个字母的识别为例进行说明，规定当“A”输入网络时，应该输出“1”，而当输入为“B”时，输出为“0”。 网络学习的准则应该是：如果网络作出错误的的判决，则通过网络的学习，应使得网络减少下次犯同样错误的可能性。 Soft Computing Lab.55WASEDA UNIVERSITY , IPS人工神经网络的工作原理人工神经网络的工作原理 首先，给网络的各连接权值赋予(0，1)区间内的随机值，将“A”所对应的图象模式输入给网络，网络将输入模式加权求和、与门限比较、再进行非线性运算，得到网络的输出。在此情况下，网络输出为“1”和“0”的概率各为50%，也就是说是完全随机的。这时如果输出为“1”(结果正确)，则使连接权值增大，以便使网络再次遇到“A”模式输入时，仍然能作出正确的判断。 Soft Computing Lab.56WASEDA UNIVERSITY , IPS人工神经网络的工作原理人工神经网络的工作原理 如果输出为“0”(即结果错误)，则把网络连接权值朝着减小综合输入加权值的方向调整，其目的在于使网络下次再遇到“A”模式输入时，减小犯同样错误的可能性。 如此操作调整，当给网络轮番输入若干个手写字母“A”、“B”后，经过网络按以上学习方法进行若干次学习后，网络判断的正确率将大大提高。这说明网络对这两个模式的学习已经获得了成功，它已将这两个模式分布地记忆在网络的各个连接权值上。当网络再次遇到其中任何一个模式时，能够作出迅速、准确的判断和识别。 一般说来，网络中所含的神经元个数越多，则它能记忆、识别的模式也就越多。 Soft Computing Lab.57WASEDA UNIVERSITY , IPS神经计算的特点（1）可以充分逼近任意复杂的非线性关系可以充分逼近任意复杂的非线性关系（2）所有定量或定性的信息都等势分布贮存于）所有定量或定性的信息都等势分布贮存于网络内的各神经元，故有很强的鲁棒性和容错性网络内的各神经元，故有很强的鲁棒性和容错性（3）采用并行分布处理方法，使得快速进行大）采用并行分布处理方法，使得快速进行大量运算成为可能量运算成为可能（4）可学习和自适应不知道或不确定的系统）可学习和自适应不知道或不确定的系统 （5 5）能够同时处理定量、定性知识。）能够同时处理定量、定性知识。Soft Computing Lab.58WASEDA UNIVERSITY , IPS神经计算神经计算40年代心理学家Mcculloch和数学家Pitts合作提出的兴奋与抑制型神经元模型和Hebb提出的神经元连接强度的修改规则，他们的研究结果至今仍是许多神经网络模型研究的基础。Soft Computing Lab.59WASEDA UNIVERSITY , IPSMcCulloch-Pitts NeuronMcCulloch-Pitts NeuronSoft Computing Lab.60WASEDA UNIVERSITY , IPS人工神经元的结构人工神经元的结构x1x2xnw1w2wny人工神经元是对生物神经元的抽象与模拟人工神经元是对生物神经元的抽象与模拟下图是一个下图是一个MP神经元模型神经元模型 1943年，心理学家麦克洛奇年，心理学家麦克洛奇(W.McMulloch)和数理逻辑学家皮茨和数理逻辑学家皮茨(W.Pitts)根据生物神经元的功能和结构，提出了一个将神经元看作二进根据生物神经元的功能和结构，提出了一个将神经元看作二进制阈值元件的简单模型，即制阈值元件的简单模型，即MP模型。模型。图中的图中的x1,x2,xn表示某一神经元的表示某一神经元的n个输入；个输入；wi表示第表示第i个输入的连接强度，称为个输入的连接强度，称为连接权值；连接权值；为神经元的阈值；为神经元的阈值；y为神经元的输出。可见，人工神经元是一个具有多输为神经元的输出。可见，人工神经元是一个具有多输入，单输出的非线性器件。其输入为入，单输出的非线性器件。其输入为其输出为其输出为其中，其中，f称为神经元功能函数或作用函数。称为神经元功能函数或作用函数。Soft Computing Lab.61WASEDA UNIVERSITY , IPSThe NeuronThe NeuronInputsignalSynapticweightsSummingfunctionBiasbActivationfunctionLocalFieldvOutputyx1x2xmw2wmw1Soft Computing Lab.62WASEDA UNIVERSITY , IPS常用的人工神经元模型常用的人工神经元模型根据功能函数的不同，可得到不同的神经元模型。常用模型包括：根据功能函数的不同，可得到不同的神经元模型。常用模型包括：阈值型阈值型(Threshold)f()1这种模型的神经元没有内部状态，作用函数这种模型的神经元没有内部状态，作用函数f是一是一个阶跃函数，他表示激活值个阶跃函数，他表示激活值和输出之间的关系。和输出之间的关系。 这是一种连续的神经元模型，其输入输出这是一种连续的神经元模型，其输入输出特性常用指数、对数或双曲正切等特性常用指数、对数或双曲正切等S S型函数型函数表示。它反映的是神经元的饱和特性表示。它反映的是神经元的饱和特性. .分段线性强饱和型分段线性强饱和型(Linear Saturation)(Linear Saturation)S S型型( (SibmoidSibmoid) )子阈累积型子阈累积型(SubthresholdSummation) 也是一个非线性函数，当产生的激活值超过也是一个非线性函数，当产生的激活值超过T T值时，该神经元被激活产生个反响。在线性范围值时，该神经元被激活产生个反响。在线性范围内，系统的反响是线性的内，系统的反响是线性的。T1这种模型又称为伪线性，其输入这种模型又称为伪线性，其输入/输出之间在一定范围输出之间在一定范围内满足线性关系，一直延续到输出为最大值内满足线性关系，一直延续到输出为最大值1为止。但当为止。但当达到最大值后，输出就不再增。达到最大值后，输出就不再增。Soft Computing Lab.63WASEDA UNIVERSITY , IPS人工神经网络的互联结构人工神经网络的互联结构 人工神经网络的互连结构（或称拓扑结构）是指单个神经元之间的连接人工神经网络的互连结构（或称拓扑结构）是指单个神经元之间的连接模式，它是构造神经网络的基础，也是神经网络诱发偏差的主要来源。从互模式，它是构造神经网络的基础，也是神经网络诱发偏差的主要来源。从互连结构的角度：连结构的角度：前馈网络前馈网络反馈网络反馈网络单层前馈网络单层前馈网络多层前馈网络多层前馈网络单层反馈网络单层反馈网络多层反馈网络多层反馈网络仅含输入层和输出层，且只有输出层的仅含输入层和输出层，且只有输出层的神经元是可计算节点神经元是可计算节点除拥有输入、输出层外，还至少含有除拥有输入、输出层外，还至少含有一个、或更多个隐含层的前向网络一个、或更多个隐含层的前向网络指不拥有隐含层的反馈网络指不拥有隐含层的反馈网络指拥有隐含层的反馈网络指拥有隐含层的反馈网络可含有反馈联结只包含前向联结只包含前向联结Soft Computing Lab.64WASEDA UNIVERSITY , IPS 包括单层前馈网络和多层前馈网络。包括单层前馈网络和多层前馈网络。 单层前馈网络是指那种只拥有单层计算节点的前向网络。它仅含有输入单层前馈网络是指那种只拥有单层计算节点的前向网络。它仅含有输入层和输出层，且只有输出层的神经元是可计算节点，如下图所示层和输出层，且只有输出层的神经元是可计算节点，如下图所示 其中，输入向量为其中，输入向量为X=(xX=(x1 1,x,x2 2, , ,x xn n) )；输出向量为；输出向量为Y=(yY=(y1 1,y,y2 2, , ,y ym m) )；输入层；输入层各个输入到相应神经元的连接权值分别是各个输入到相应神经元的连接权值分别是w wijij，i=1,2,.,ni=1,2,.,n，j=1,2,., mj=1,2,., m。x1X2X3xny1Y2ym权值wij输出层输入层图8 单层前馈网络结构前馈人工神经网络的互联结构前馈人工神经网络的互联结构Soft Computing Lab.65WASEDA UNIVERSITY , IPS单层感知器的结构如下图单层感知器的结构如下图x1x2xny1ym输入层输出层权值 wij输入向量为输入向量为X=(x1,x2,xn)；输出向量为输出向量为Y=(y1,y2,ym)；输入层各个输入到相应神经元输入层各个输入到相应神经元的连接权值分别是的连接权值分别是wij，i=1,2,.,n，j=1,2,.,m。若假设各神经元的阈值分别若假设各神经元的阈值分别是是j，j=1,2,m，则各神经元则各神经元的输出的输出yj,j=1,2,.,m分别为分别为 其中，由所有连接权值其中，由所有连接权值w wjiji构构成的连接权值矩阵成的连接权值矩阵W W为：为： 在实际应用中，该矩阵是通在实际应用中，该矩阵是通过大量的训练示例学习而形成的过大量的训练示例学习而形成的 Soft Computing Lab.66WASEDA UNIVERSITY , IPSx11y=x1 XOR x2x1X2x121-1111-1输入层隐层输出层权值权值 “异或”问题的多层感知器阈值0.5阈值-1.5阈值1.5(0,1)(0,0)(1,0)异或问题的解决(1,1)在图在图14中，隐层神经中，隐层神经元元x11所确定的直线方程所确定的直线方程为为它可以识别一个半它可以识别一个半平面。隐层神经元平面。隐层神经元x12所所确定的直线方程为确定的直线方程为它也可以识别一个半平它也可以识别一个半平面。面。输出层神经元所确定的直线方程为输出层神经元所确定的直线方程为它相当于对隐层神经元它相当于对隐层神经元x11和和x12的输出的输出作作“逻辑与逻辑与”运算，因此可识别由隐层运算，因此可识别由隐层已识别的两个半平面的交集所构成的一已识别的两个半平面的交集所构成的一个凸多边形，如图个凸多边形，如图15所示。所示。Soft Computing Lab.67WASEDA UNIVERSITY , IPS 误差反向传播误差反向传播(ErrorBackPropagation)网络通常简称为网络通常简称为BP(BackPropagation)网络，是由美国加州大学的鲁梅尔哈特和麦克莱兰在研究并行分网络，是由美国加州大学的鲁梅尔哈特和麦克莱兰在研究并行分布式信息处理方法，探索人类认知微结构的过程中，于布式信息处理方法，探索人类认知微结构的过程中，于1985年提出的一种网年提出的一种网络模型。络模型。BP网络的网络拓扑结构是多层前向网络，如图网络的网络拓扑结构是多层前向网络，如图16所示。在所示。在BP网络中，同网络中，同层节点之间不存在相互连接，层与层之间多采用全互连方式，且各层的连接层节点之间不存在相互连接，层与层之间多采用全互连方式，且各层的连接权值可调。权值可调。BP网络实现了明斯基的多层网络的设想，是当今神经网络模型中网络实现了明斯基的多层网络的设想，是当今神经网络模型中使用最广泛的一种。使用最广泛的一种。y1y2ymx1x2xn输出层隐含层输入层权可调权可调一个多层BP网络的结构人工神经网络的典型模型人工神经网络的典型模型BP网络模型网络模型Soft Computing Lab.68WASEDA UNIVERSITY , IPS离散Hopfield网络的结构ymY2Y1x1x2xn输入层输出层 在在 HopfidldHopfidld网络中，虽然神经元自身无连接，但由于每个神经元都与网络中，虽然神经元自身无连接，但由于每个神经元都与其他神经元相连，即每个神经元的输出都将通过突触连接权值传递给别的其他神经元相连，即每个神经元的输出都将通过突触连接权值传递给别的神经元，同时每个神经元又都接受其他神经元传来的信息，这样对每个神神经元，同时每个神经元又都接受其他神经元传来的信息，这样对每个神经元来说，其输出经过其他神经元后又有可能反馈给自己，因此经元来说，其输出经过其他神经元后又有可能反馈给自己，因此HopfidldHopfidld网络是一种反馈神经网络。网络是一种反馈神经网络。 Soft Computing Lab.69WASEDA UNIVERSITY , IPS模糊数学 数是我们所知的最纯粹的量的规定，但数是我们所知的最纯粹的量的规定，但他却充满了质的差异。他却充满了质的差异。 恩格斯恩格斯自然辩证法自然辩证法Soft Computing Lab.70WASEDA UNIVERSITY , IPS秃头悖论秃头悖论有位先生的头发长的很好，即他的头“不秃”。我们可以肯定：若将他头发拔去一根，他的头仍不秃；拔去两根，他的头也不会秃；再假定：拔去k根头发他还“不秃”；则依常理，再拔1根（共拔去K+1根）头发，他也不会是“秃”。则依数学归纳法，可得结论：如此拔下去，头发拔光了，他也“不秃”！Soft Computing Lab.71WASEDA UNIVERSITY , IPS模糊计算模糊计算 美国加州大学扎德美国加州大学扎德( (ZadehZadeh) )教授于教授于19651965年提出的模糊集合与年提出的模糊集合与模糊逻辑理论是模糊计算的数学基础。它主要用来处理现实世模糊逻辑理论是模糊计算的数学基础。它主要用来处理现实世界中因模糊而引起的不确定性。目前，模糊理论已经在推理、界中因模糊而引起的不确定性。目前，模糊理论已经在推理、控制、决策等方面得到了非常广泛的应用。控制、决策等方面得到了非常广泛的应用。Soft Computing Lab.72WASEDA UNIVERSITY , IPS模糊数学的产生 精确数学及随机数学在描述自然界多种事物的运动规律中，获得显著效果。但是，在客观世界中还普遍存在着大量的模糊现象。以前人们回避它，但是，由于现代科技所面对的系统日益复杂，模糊性总是伴随着复杂性出现。 人文、社会学科及其它“软科学”的数学化、定量化趋向把模糊性的数学处理问题推向中心地位。 随着电子计算机、控制论、系统科学的迅速发展，要使计算机能像人脑那样对复杂事物具有识别能力，就必须研究和处理模糊性。 Soft Computing Lab.73WASEDA UNIVERSITY , IPS模糊数学的产生 目前，在研究人类系统的行为，或者处理可与人类系统行为相比拟的复杂系统，如航天系统、人脑系统、社会系统等大型复杂系统的过程中，涉及到的参数和变量甚多，各种因素相互交错，系统很复杂，它的模糊性也很明显。从认识方面说，模糊性是指概念外延的不确定性，从而造成判断的不确定性。 Soft Computing Lab.74WASEDA UNIVERSITY , IPS模糊数学的产生 在日常生活中，经常遇到许多模糊事物，没有分明的数量界限，要使用一些模糊的词句来形容、描述。比如，比较年轻、高个、大胖子、好、漂亮、善、热、远。在人们的工作经验中，往往也有许多模糊的东西。 例如，要确定一炉钢水是否已经炼好，除了要知道钢水的温度、成分比例和冶炼时间等精确信息外，还需要参考钢水颜色、沸腾情况等模糊信息。因此，除了很早就有涉及误差的计算数学之外，还需要模糊数学。Soft Computing Lab.75WASEDA UNIVERSITY , IPS模糊数学的产生 人与计算机相比，人脑具有处理模糊信息的能力，善于判断和处理模糊现象。但计算机对模糊现象识别能力较差，为了提高计算机识别模糊现象的能力，就需要把人们常用的模糊语言设计成机器能接受的指令和程序，以便机器能像人脑那样简洁灵活的做出相应的判断，从而提高自动识别和控制模糊现象的效率。这样，就需要寻找一种描述和加工模糊信息的数学工具，这就推动数学家深入研究模糊数学。所以，模糊数学的产生是有其科学技术与数学发展的必然性。 Soft Computing Lab.76WASEDA UNIVERSITY , IPS模糊数学的研究内容 模糊数学的研究内容主要有以下三个方面： 第一，研究模糊数学的理论，以及它和精确数学、随机数学的关系。察德以精确数学集合论为基础，并考虑到对数学的集合概念进行修改和推广。 扎德扎德提出用“模糊集合”作为表现模糊事物的数学模型。并在“模糊集合”上逐步建立运算、变换规律，开展有关的理论研究，就有可能构造出研究现实世界中的大量模糊的数学基础，能够对看来相当复杂的模糊系统进行定量的描述和处理的数学方法。Soft Computing Lab.77WASEDA UNIVERSITY , IPS模糊数学的研究内容 在模糊集合中，给定范围内元素对它的隶属关系不一定只有“是”或“否”两种情况，而是用介于0和1之间的实数来表示隶属程度，还存在中间过渡状态。 比如“老人”是个模糊概念，70岁的肯定属于老人，它的从属程度是 1，40岁的人肯定不算老人，它的从属程度为 0，按照查德给出的公式，55岁属于“老”的程度为0.5，即“半老”，60岁属于“老”的程度0.8。 查德认为，指明各个元素的隶属集合，就等于指定了一个集合。当隶属于0和1之间值时，就是模糊集合。Soft Computing Lab.78WASEDA UNIVERSITY , IPS模糊数学的研究内容 第二，研究模糊语言学和模糊逻辑。人类自然语言具有模糊性，人们经常接受模糊语言与模糊信息，并能做出正确的识别和判断。 为了实现用自然语言跟计算机进行直接对话，就必须把人类的语言和思维过程提炼成数学模型，才能给计算机输入指令，建立和是的模糊数学模型，这是运用数学方法的关键。查德采用模糊集合理论来建立模糊语言的数学模型，使人类语言数量化、形式化。Soft Computing Lab.79WASEDA UNIVERSITY , IPS模糊数学的研究内容 如果我们把合乎语法的标准句子的从属函数值定为1，那么，其他文法稍有错误，但尚能表达相仿的思想的句子，就可以用以0到1之间的连续数来表征它从属于“正确句子”的隶属程度。这样，就把模糊语言进行定量描述，并定出一套运算、变换规则。目前，模糊语言还很不成熟，语言学家正在深入研究。 人们的思维活动常常要求概念的确定性和精确性，采用形式逻辑的排中律，既非真既假，然后进行判断和推理，得出结论。现有的计算机都是建立在二值逻辑基础上的，它在处理客观事物的确定性方面，发挥了巨大的作用，但是却不具备处理事物和概念的不确定性或模糊性的能力。 为了使计算机能够模拟人脑高级智能的特点，就必须把计算机转到多值逻辑基础上，研究模糊逻辑。目前，模糊罗基还很不成熟，尚需继续研究。Soft Computing Lab.80WASEDA UNIVERSITY , IPS模糊数学的研究内容 第三，研究模糊数学的应用。 模糊数学是以不确定性的事物为其研究对象的。模糊集合的出现是数学适应描述复杂事物的需要，查德的功绩在于用模糊集合的理论找到解决模糊性对象加以确切化，从而使研究确定性对象的数学与不确定性对象的数学沟通起来，过去精确数学、随机数学描述感到不足之处，就能得到弥补。 在模糊数学中，目前已有模糊拓扑学、模糊群论、模糊图论、模糊概率、模糊语言学、模糊逻辑学等分支。 Soft Computing Lab.81WASEDA UNIVERSITY , IPS模糊数学的应用 模糊数学是一门新兴学科，它已初步应用于模糊控制、模糊识别、模糊聚类分析、模糊决策、模糊评判、系统理论、信息检索、医学、生物学等各个方面。在气象、结构力学、控制、心理学等方面已有具体的研究成果。然而模糊数学最重要的应用领域是计算机科学领域，不少人认为它与新一代计算机的研制有密切的联系。Soft Computing Lab.82WASEDA UNIVERSITY , IPS模糊计算o 模糊计算模糊计算亦称模糊系统，是通过对人类处理模糊现象的认知能力的亦称模糊系统，是通过对人类处理模糊现象的认知能力的认识，用模糊集合和模糊逻辑去模拟人类的智能行为的。模糊集合与模认识，用模糊集合和模糊逻辑去模拟人类的智能行为的。模糊集合与模糊逻辑是美国加州大学扎德糊逻辑是美国加州大学扎德( (ZadehZadeh) )教授教授19651965年提出来的一种处理因模糊年提出来的一种处理因模糊而引起的不确定性的有效方法。而引起的不确定性的有效方法。o 模糊概念的定义模糊概念的定义：通常，人们把那种因没有严格边界划分而无法精：通常，人们把那种因没有严格边界划分而无法精确刻画的现象称为模糊现象，并把反映模糊现象的各种概念称为模糊概确刻画的现象称为模糊现象，并把反映模糊现象的各种概念称为模糊概念。例如，念。例如， “ “大大”、“小小”、“多多”、“少少”等。等。o 模糊概念的表示模糊概念的表示：通常是用模糊集合来表示的，而模糊集合又是用：通常是用模糊集合来表示的，而模糊集合又是用隶属函数来刻画的。一个隶属函数描述一个模糊概念，其函数值为隶属函数来刻画的。一个隶属函数描述一个模糊概念，其函数值为0, 0, 11区间的实数，用来描述函数自变量所代表的模糊事件隶属于该模糊概区间的实数，用来描述函数自变量所代表的模糊事件隶属于该模糊概念的程度。念的程度。o 模糊计算的争论模糊计算的争论：一方面模糊逻辑存在一定缺陷；另一方面它在推：一方面模糊逻辑存在一定缺陷；另一方面它在推理、控制、决策等方面得到了非常广泛的应用。理、控制、决策等方面得到了非常广泛的应用。Soft Computing Lab.83WASEDA UNIVERSITY , IPS 定定义义1 1 设设U U是是给给定定论论域域， 是是把把任任意意uUuU映映射射为为0, 0, 11上上某某个个实实值值的函数，即的函数，即 ：U0, 1U0, 1 u u则称则称 为定义在为定义在U U上的一个隶属函数，由上的一个隶属函数，由 （对所有（对所有 ）所）所构成的集合构成的集合F F称为称为U U上的一个模糊集，上的一个模糊集， 称为称为u u对对F F的隶属度。的隶属度。 说明：说明： 模糊集模糊集F完全是由隶属函数完全是由隶属函数来刻画的，来刻画的，把把U中的每一个元素中的每一个元素u都映射为都映射为0,1上的一个值上的一个值。的值表示的值表示u隶属于隶属于F的程度，其值越大，表示的程度，其值越大，表示u隶属于隶属于F的程的程度越高。当度越高。当仅取仅取0和和1时，模糊集时，模糊集F便退化为一个普通集合。便退化为一个普通集合。模糊集及其运算模糊集及其运算模糊集的定义模糊集的定义Soft Computing Lab.84WASEDA UNIVERSITY , IPS 例例 设设论论域域U=20, U=20, 30, 30, 40, 40, 50, 50, 6060给给出出的的是是年年龄龄，请确定一个刻画模糊概念请确定一个刻画模糊概念“年轻年轻”的模糊集的模糊集F F。 解解：由由于于模模糊糊集集是是用用其其隶隶属属函函数数来来刻刻画画的的，因因此此需需要要先先求求出出描描述述模模糊糊概概念念“青青年年”的的隶隶属属函函数数。假假设设对对论论域域U U中中的元素，其隶属函数值分别为：的元素，其隶属函数值分别为： 则可得到刻画模糊概念则可得到刻画模糊概念“年轻年轻”的模糊集的模糊集 F= 1, 0.8, 0.4, 0.1, 0 F= 1, 0.8, 0.4, 0.1, 0 说明其含义。说明其含义。Soft Computing Lab.85WASEDA UNIVERSITY , IPS软计算软计算 软计算是正在兴起的一种计算方法，它与人脑对应，具有在不确定性、不精确环境中进行推理和学习的卓越能力。 扎德Soft Computing Lab.86WASEDA UNIVERSITY , IPS免疫系统人体免疫系统是一个高度进化、复杂的生理机制人体免疫系统是一个高度进化、复杂的生理机制免疫系统通过高度复杂的网络结构来识别和排除抗原性异物，维护体内免疫系统通过高度复杂的网络结构来识别和排除抗原性异物，维护体内环境的稳定环境的稳定免疫系统具有识别能力、学习和免疫记忆功能，以及自适应调节机制等免疫系统具有识别能力、学习和免疫记忆功能，以及自适应调节机制等特性特性 Soft Computing Lab.87WASEDA UNIVERSITY , IPS蚁群算法概述o受蚂蚁觅食行为的的启发，受蚂蚁觅食行为的的启发，9090年代年代DorigoDorigo提出蚁群优化算法提出蚁群优化算法(Ant(AntColonyColonyOptimizationOptimization，ACO)ACO)求解求解TSPTSP问题问题o设计虚拟的设计虚拟的“蚂蚁蚂蚁”，摸索不同路线，并留下会随时间挥发的虚拟，摸索不同路线，并留下会随时间挥发的虚拟“信息素信息素”o根据根据“信息素较浓，则路径更短信息素较浓，则路径更短”的原则，每只蚂蚁每次随机选择要的原则，每只蚂蚁每次随机选择要走的路径，但倾向于信息素比较浓的路径走的路径，但倾向于信息素比较浓的路径o算法利用了正反馈机制，使得较短的路径能够有较大的机会得到选择算法利用了正反馈机制，使得较短的路径能够有较大的机会得到选择 oACOACO已成功用于解决其他组合优化问题已成功用于解决其他组合优化问题 图的着色图的着色(Graph(GraphColoring)Coloring)问题问题 最短超串最短超串(Shortest(ShortestCommonCommonSupersequenceSupersequence) )问题问题 网络路由问题网络路由问题Soft Computing Lab.88WASEDA UNIVERSITY , IPS蚁群觅食原理ABCD蚁穴食物蚂蚁从蚁穴出发觅食，可沿蚂蚁从蚁穴出发觅食，可沿ACAC找到食物，也可沿找到食物，也可沿ABCABC找到，如右图。找到，如右图。每个蚂蚁找到食物后沿原路返回，并在路上留下外激素。每个蚂蚁找到食物后沿原路返回，并在路上留下外激素。ACAC路径短，路径短，ACAC上留下了两次外激素，而上留下了两次外激素，而ABCABC路径长，沿路径长，沿CBACBA返回的蚂蚁，还只到了返回的蚂蚁，还只到了D D处，故处，故ADAD上只留下一次外激素。上只留下一次外激素。后续离穴觅食者选择外激素浓度大的后续离穴觅食者选择外激素浓度大的ACAC路径，路径，于是于是ACAC上外激素浓度将越来越大，上外激素浓度将越来越大，最后，绝大多数蚂蚁沿较短的最后，绝大多数蚂蚁沿较短的ACAC路径觅食。路径觅食。Soft Computing Lab.89WASEDA UNIVERSITY , IPS蚁群算法初初始始化化，设设置置时时间间计计数数器器，循循环环计计数数器器，为为每每条条边设置信息素浓度的初始值边设置信息素浓度的初始值初始化初始化tabutabu表表 tabutabu表满？表满？按按概概率率将将某某一一个个蚂蚂蚁蚁从从第第i i个个城城市市移移动动到到第第j j个城市，并将个城市，并将j j插入其插入其tabutabu表表封封闭闭回回路路，分分别别计计算算每每个个蚂蚂蚁蚁走走过过的的总总长长度度，记记录录最最短短路径，计算信息素浓度改变量路径，计算信息素浓度改变量达达到到最最大大循循环环次次数数或或不不发展状态？发展状态？输出结果输出结果Soft Computing Lab.90WASEDA UNIVERSITY , IPS粒子群优化 自然界中有许多现象令人惊奇，鸟群优美而协调的运动便其中之一。鸟群的排列看起来似乎是随机的，其实它们有着类似于人类的同步性，这种同步性使得鸟群的整体运动非常流畅，具有舞蹈的美感。科学家曾对鸟群的运动进行了计算机仿真，他们让每个个体按照特定的规则运动，形成鸟群整体的复杂行为。 生物社会学家E.O.Wilson曾说过，“至少从理论上，在搜索食物的过程中群体中的个体成员可以得益于所有其他成员的发现和先前的经历。当食物源不可预测地零星分布时，这种群体协作带来的优势是决定性的，远大于对食物的竞争带来的劣势。”。这说明，群体中个体之间信息的共享有助于群体的生存和进化。 Soft Computing Lab.91WASEDA UNIVERSITY , IPS粒子群优化 粒子群优化算法是一种基于群智能的全局随机优化算法，它用无质量、无体积的粒子作为个体，并为每个粒子制定简单的行为规则，从而使整个粒子群表现出复杂的特性，可用来求解复杂的优化问题。 美国社会心理学家James Kennedy与电气工程师Russell C. Eberhart根据鸟群捕食行为的鸟群捕食行为的启发，启发，结合生物学家Frank Heppner的生物群体模型，于1995年共同提出了粒子群优化算法。Soft Computing Lab.92WASEDA UNIVERSITY , IPS粒子群优化o一群鸟在随机搜索区域里的一块食物，所有的鸟都不知道食物在那里，但一群鸟在随机搜索区域里的一块食物，所有的鸟都不知道食物在那里，但知道当前的位置离食物还有多远知道当前的位置离食物还有多远o那么找到食物的最优策略是什么呢？最简单有效的就是搜寻目前离食物最那么找到食物的最优策略是什么呢？最简单有效的就是搜寻目前离食物最近的鸟的周围区域近的鸟的周围区域oPSOPSO中，优化问题的可行解就是搜索空间中的一只鸟，称之为中，优化问题的可行解就是搜索空间中的一只鸟，称之为“粒子粒子”，一，一群鸟称为粒子群，所有的粒子都有一个由优化的函数决定的适应值群鸟称为粒子群，所有的粒子都有一个由优化的函数决定的适应值（fitnessfitnessvalue)value)o每个粒子还有一个速度决定其飞行的方向和距离，目的是追随当前的最优每个粒子还有一个速度决定其飞行的方向和距离，目的是追随当前的最优粒子在解空间中搜索粒子在解空间中搜索o粒子通过跟踪两个粒子通过跟踪两个“极值极值”来更新自己，第一个就是粒子自己当前找到的来更新自己，第一个就是粒子自己当前找到的最优解，这个解叫做个体极值最优解，这个解叫做个体极值pBestpBest，另一个极值是整个种群目前找到的最，另一个极值是整个种群目前找到的最优解，这个极值是全局极值优解，这个极值是全局极值gBestgBest Soft Computing Lab.93WASEDA UNIVERSITY , IPS粒子移动原理o粒子粒子i i在在N N维空间里的位维空间里的位置表示为矢量置表示为矢量XiXi( (x x1 1，x x2 2，xNxN) )，飞行，飞行速度表示为矢量速度表示为矢量ViVi( (v1v1，v2v2，vNvN) ) o对于第对于第k k次迭代，次迭代，PSOPSO中中的每一个粒子的移动按的每一个粒子的移动按照下式进行照下式进行Soft Computing Lab.94WASEDA UNIVERSITY , IPS粒子群优化算法Step1Step1： 初始化一群粒子初始化一群粒子( (群体规模为群体规模为m)m)，包括随，包括随 机机 位置和速度；位置和速度；Step2Step2： 评价每个粒子的适应度；评价每个粒子的适应度；Step3Step3： 对每个粒子，将其适应值与其经历过的最好位置对每个粒子，将其适应值与其经历过的最好位置pbestpbest作比较，如作比较，如果较好，则将其作为当前的最好位置果较好，则将其作为当前的最好位置pbestpbest；Step4Step4： 对每个粒子，将其适应值与全局所经历的最好位置对每个粒子，将其适应值与全局所经历的最好位置gbestgbest作比较，作比较，如果较好，则重新设置如果较好，则重新设置gbestgbest的索引号；的索引号；Step5Step5： 根据方程根据方程(1)(1)变化粒子的速度和位置；变化粒子的速度和位置；Step6Step6： 如未达到结束条件（通常为足够好的适应值或达到一个预设最大如未达到结束条件（通常为足够好的适应值或达到一个预设最大代数代数GmaxGmax），则返回），则返回Step2Step2标准标准PSO的算法流程的算法流程Soft Computing Lab.95WASEDA UNIVERSITY , IPS高中信息技术课程标准o高中信息技术课程高中信息技术课程o总体总体: :包括必修与选修两个部分，共六个模块，每个模块包括必修与选修两个部分，共六个模块，每个模块2学分学分o必修部分必修部分: : “信息技术基础信息技术基础” 一个模块，一个模块，2 2学分。学分。o选修部分选修部分: :包括包括“算法与程序设计算法与程序设计”“多媒体技术应用多媒体技术应用”“网络技术应用网络技术应用”“数据管理技术数据管理技术”和和“人工智能初步人工智能初步”五个模块，每个模块五个模块，每个模块2 2学分。学分。o在在“通用技术通用技术”科目中，科目中， o选修部分：选修部分：设置有设置有“简易机器人制作简易机器人制作”模块模块 信息技术基础信息技术基础人人工工智智能能初初步步必修必修2学分学分选修选修2(x)学分学分算算法法与与程程序序设设计计多多媒媒体体技技术术应应用用网网络络技技术术应应用用数数据据管管理理技技术术Soft Computing Lab.96WASEDA UNIVERSITY , IPS智能科学与技术本科专业的现状o专业名称专业名称 称采用一级名称称采用一级名称“智能科学与技术智能科学与技术”专业专业o专业概念专业概念 智能科学技术专业是一个多学科交叉的跨应用领域的新专业。智能科学技术专业是一个多学科交叉的跨应用领域的新专业。o国内智能科学与技术本科教育的现状国内智能科学与技术本科教育的现状 自自20042004年北京大学申报的年北京大学申报的“智能科学与技术智能科学与技术”本科专业经教育部本科专业经教育部正式批准以来，截至正式批准以来，截至20062006年底，国内已有北京邮电大学、南开大学、年底，国内已有北京邮电大学、南开大学、西安电子科技大学、首都师范大学、武汉工程大学、西安邮电学院和西安电子科技大学、首都师范大学、武汉工程大学、西安邮电学院和北京信息工程学院共北京信息工程学院共8 8所院校经教育部批准，正式设立所院校经教育部批准，正式设立 “ “智能科学与智能科学与技术技术”本科专业。本科专业。Soft Computing Lab.97WASEDA UNIVERSITY , IPS展望o人工脑对生物脑已不只是功能模仿，而是机制模拟，人工脑对生物脑已不只是功能模仿，而是机制模拟，人工脑与生物脑将具有相同的特性人工脑与生物脑将具有相同的特性o多多学学科科的的交交叉叉、结结合合将将开开辟辟全全新新的的智智能能计计算算领领域域，开辟很多新的研究方向开辟很多新的研究方向o数数学学将将大大有有用用武武之之地地，计计算算科科学学、统统计计学学、模模糊糊数数学和系统学等将是智能计算理论的基石学和系统学等将是智能计算理论的基石o智能计算将探索智能的新概念、新理论、新方法和智能计算将探索智能的新概念、新理论、新方法和新技术新技术o2121世纪的智能科学将有重大突破，取得重大成就世纪的智能科学将有重大突破，取得重大成就 Soft Computing Lab.98WASEDA UNIVERSITY , IPS智能计算的未来智能计算的未来海纳百川，取则行远。 中国海洋大学校训Soft Computing Lab.99WASEDA UNIVERSITY , IPS 作业作业 根据自己的研究方向，在计算机学报、软件学报、计算机研究与发展搜索相关论文(3篇以上)，仔细阅读。 要求： 1) 提交个人读书笔记（用计算机学报投稿论文模板格式严格排版，包括中英文摘要） 2）学习心得，以PPT形式提交 3）分组公开讲述（课堂讲述，每组讲述事件不少于20分钟）并讨论。Soft Computing Lab.100WASEDA UNIVERSITY , IPS