人工智能导论
2020-03-05 11:38:45 2 举报
AI智能生成
王万良《人工智能导论(第4版)》各章知识点梳理概括,便于初学者更好的学习。《人工智能导论(第4版)》是一本基础性强、可读性好、适合讲授的人工智能教材。读者通过学习《人工智能导论(第4版)》,能够掌握人工智能的基本知识,并能了解人工智能研究的一些前沿内容,为进一步学习人工智能理论与应用奠定基础。
作者其他创作
大纲/内容
智能计算及其应用
进化算法的产生与发展
进化算法的概念
基于自然选择和自然遗传等生物进化机制的
一种搜索算法
一种搜索算法
进化算法的生物学背景
“适者生存”
竞争
变异
种群
群体
子群
婚配
进化算法的设计原则
适用性原则
可靠性原则
收敛性原则
稳定性原则
生物类比原则
启发式图搜索策略
启发式策略
启发方法
使用该方法的搜索状态空间的算法
启发信息和估价函数
启发信息分类
陈述性启发性信息
过程性启发信息
控制性启发信息
f(n)=g(n)+h(n)
f(n):估价函数定义为从初始结点经过n结点
g(n):从初始状态到n结点的实际代价
h(n):从n结点到目的结点的最佳路径的估计代价
A搜索算法
定义
基于估价函数的加权启发式图搜索策略
步骤
1.把附有f(S0)的初始结点S0放入open表
2.若open表为空,则搜索失败退出
3.移出open表中第一个结点N放入closed表中,并顺序编号n
4.若目标结点把附有f(S0)的初始Sg=N,则搜索成功,结束
5.若N不可扩展,则转步骤2
6.扩展N,生成一组附有f(x)的子结点,对这组子结点作如下处理
A*搜索算法及其特性分析
A*算法:h(n)<=h*(n)
h*(n)为状态n到目的状态的最优路径的代价
h(n)定义为A搜索算法的启发函数
特性
可采纳性
单调性
信息性
基本遗传算法
遗传算法的基本思想
借用生物进化"适者生存"的规律
染色体对应数据或数组
编码
表现型到基因型的转换
解码
基因型到表现型 的转换
步骤
求解问题从多个解开始
通过一定的法则逐步迭代产生新解
多个解的集合称为种群P(t)
t为迭代步,演化代
在演化过程中,p(t)元素个数演化过程中保持不变
新解的父解
当前解
后代解
产生的新解
遗传算法的发展历史
1962年,Fraser提出和遗传算法十分相似的概念和思想
1965年,Holland首次提出了人工遗传操作的重要性
1967年,Holland的学生Bagley在博士论文中首次提出遗传算法这一术语
并提出选择,交叉,遗传,变异等操作
并提出选择,交叉,遗传,变异等操作
1970年,Cavicchio将遗传算法应用于模式识别
1971年,Hollstien将遗传算法用于函数优化
1975年
J.Holland出版《自然系统和人工系统的适配》
阐述遗传算法的基本理论和方法
提出遗传算法理论研究和发展极为重要的模式理论
DeJong出版《遗传自适应系统的行为分析》
将模式理论与他的计算实验结合起来
提出遗传操作技术
编码
位串编码
二进制编码
优点
与生物染色体结构类似
使得算法易于用生物遗传理论解释
使得遗传、交叉、变异等操作易于实现
算法处理模式最多
缺点
相邻整数的二进制编码可能具有较大的Hamming距离
算法缺少微调功能
求解高维优化问题时,二进制编码串将非常长,使算法搜索效率低
Gray编码
实数编码
多参数级联编码
群体设定
初始种群的产生
种群规模的确定
适应度函数
将目标函数映射为适应度函数的方法
适应度函数的尺度变换
线性变换
非线性变换
选择
个体选择概率分类方法
适应度比例方法
排序方法
克服了适应值比例选择策略的过早收敛或停滞的状态
线性排序
非线性排序
选择个体方法
轮盘赌法
锦标赛选择法
最佳个体保存法
交叉
基本的交叉算子
单点交叉
二点交叉
修正的交叉方法
变异
位点变异
逆转变异
插入变异
互换变异
移动变异
遗传算法的一般步骤
随机产生N个染色体的初始群体
计算每个染色体的适应值
若满足条件,则停止算法
若不满足条件,则以概率公式随机选择一些染色体构成一个新种群
若不满足条件,则以概率公式随机选择一些染色体构成一个新种群
以Pc概率进行交叉产生一些新的染色体,得到新的种群
以较小的概率Pm使染色体的一个基因发生变异
遗传算法的特点
直接对结构对象进行操作
利用随机技术指导参数空间进行高效搜索
具有较好的全局搜索性能
可以解决复杂的优化问题
基本遗传算法
遗传算法的基本思想
借用生物进化"适者生存"的规律
染色体对应数据或数组
编码
表现型到基因型的转换
解码
基因型到表现型 的转换
步骤
求解问题从多个解开始
通过一定的法则逐步迭代产生新解
多个解的集合称为种群P(t)
t为迭代步,演化代
在演化过程中,p(t)元素个数演化过程中保持不变
新解的父解
当前解
后代解
产生的新解
遗传算法的发展历史
1962年,Fraser提出和遗传算法十分相似的概念和思想
1965年,Holland首次提出了人工遗传操作的重要性
1967年,Holland的学生Bagley在博士论文中首次提出遗传算法这一术语
并提出选择,交叉,遗传,变异等操作
并提出选择,交叉,遗传,变异等操作
1970年,Cavicchio将遗传算法应用于模式识别
1971年,Hollstien将遗传算法用于函数优化
1975年
J.Holland出版《自然系统和人工系统的适配》
阐述遗传算法的基本理论和方法
提出遗传算法理论研究和发展极为重要的模式理论
DeJong出版《遗传自适应系统的行为分析》
将模式理论与他的计算实验结合起来
提出遗传操作技术
编码
位串编码
二进制编码
优点
与生物染色体结构类似
使得算法易于用生物遗传理论解释
使得遗传、交叉、变异等操作易于实现
算法处理模式最多
缺点
相邻整数的二进制编码可能具有较大的Hamming距离
算法缺少微调功能
求解高维优化问题时,二进制编码串将非常长,使算法搜索效率低
Gray编码
实数编码
多参数级联编码
群体设定
初始种群的产生
种群规模的确定
适应度函数
将目标函数映射为适应度函数的方法
适应度函数的尺度变换
线性变换
非线性变换
选择
个体选择概率分类方法
适应度比例方法
排序方法
克服了适应值比例选择策略的过早收敛或停滞的状态
线性排序
非线性排序
选择个体方法
轮盘赌法
锦标赛选择法
最佳个体保存法
交叉
基本的交叉算子
单点交叉
二点交叉
修正的交叉方法
变异
位点变异
逆转变异
插入变异
互换变异
移动变异
遗传算法的一般步骤
随机产生N个染色体的初始群体
计算每个染色体的适应值
若满足条件,则停止算法
若不满足条件,则以概率公式随机选择一些染色体构成一个新种群
若不满足条件,则以概率公式随机选择一些染色体构成一个新种群
以Pc概率进行交叉产生一些新的染色体,得到新的种群
以较小的概率Pm使染色体的一个基因发生变异
遗传算法的特点
直接对结构对象进行操作
利用随机技术指导参数空间进行高效搜索
具有较好的全局搜索性能
可以解决复杂的优化问题
遗传算法的应用
流水车间调度问题
求解FSP的遗传算法设计
求解FSP的遗传算法实例
群智能算法产生的背景
群体智能
简单个体组成的群落与环境以及个体之间的互动行为
群智能
受动物群体智能启发的算法
粒子群优化算法及其应用
基本原理
PSO算法是一种基于群智能理论的全局优化算法,
通过群体中粒子间的合作与竞争产生的群体智能指导优化搜索
通过群体中粒子间的合作与竞争产生的群体智能指导优化搜索
参数分析
PSO的参数
最大速度Vm
权重因子
位置更新方程中各部分的影响
参数设置
应用领域
神经网络训练
化工系统领域
电力系统领域
机械设计领域
通信领域
机器人领域
经济领域
图像处理领域
生物信息领域
医学领域
运筹学领域
车辆路径中的优化
车辆路径模型VRP
编码与初始种群
实验结果
蚁群算法及应用
模型
参数
随机比例规则
各路径信息素浓度消散规则
蚁群信息素浓度更新规则
三种模型
蚂蚁圈系统
蚂蚁数量系统
蚂蚁密度系统
参数选择
信息素启发因子
期望值启发因子
信息素挥发度
应用
柔性作业车间调度事例
求最优解
人工神经网络及其应用
神经元与神经网络
数学模型
1943年提出M-P模型
非线性函数关系
阶跃函数
S型函数
结构
反馈型
前馈型
学习
调整神经网络的连接权值或者结构,
使输入输出具有需要的特性
使输入输出具有需要的特性
BP网络
多层前向网络
反向传播学习算法,通过多个样本的学习,修改权值,
不断减小误差
不断减小误差
应用
模式识别
软测量
Hopfield网络
高维非线性动力学系统
反馈型神经网络
离散型Hopfield
二值硬限器
双极硬限器
连续型Hopfield
神经元作为一个输入输出变换
细胞膜具有时空整合作用
神经元之间存在大量的兴奋和抑制性连接
存在大量的兴奋和抑制性连接
既代表产生动作电位的神经元,又代表
按渐进方式工作的神经元的能力
按渐进方式工作的神经元的能力
应用
联想记忆
求解TSP
智能体与多智能体系统
智能体
特性
自主性
反应性
社会性
进化性
结构
反应式Agent
慎思式Agent
复合式Agent
应用
电信
兴趣匹配
用户助理
组织结构
智能信息搜索
决策支持系统
移动计算
远程教育
数字娱乐
多智能体系统
特点
具有独立性和自主性
支持分布式应用,具有良好的模块性
按面向对象的方法构造多层次、多元化的智能体
是一个协调式的系统
相互通信,彼此协调,并行求解问题
各个智能体可以是异构的
打破了当前知识工程领域中仅使用一个专家系统的限制
基本类型
BDI模型
协商模型
协作规划模型
自协调模型
体系结构
网络结构
联盟结构
黑板结构
通信
通信类型
使用Tell和Ask通信
使用形式语言通信
通信方式
黑板系统
消息/对话系统
通信语言
知识交换格式语言KIF
知识查询操纵语言
协调
基于集中规划的协调
基于协商的协调
基于对策论的协调
基于社会规划的协调
协作
类型
完全协作型
协作型
自私型
完全自私型
协作与自私共存型
方法
合同网协作方法
黑板模型协作方法
市场机制协作方法
协商
协商协议
协商策略
协商处理
自然语言处理及其应用
研究历程
萌芽时期
20世纪50年代
单纯地使用规范的文法规则
关键词匹配技术为主的时期
20世纪60年代开始
近似匹配技术,具有不明确性,导致错误的分析
句法-语义分析技术为主的时期
20世纪70年代以后
在句法-语义分析技术方面取得了重要进展
基于知识的自然语言理解发展时期
20世纪80年代后
不再局限于单纯的语言句法和语法的研究,提高了系统处理的正确性
基于大规模语料库的自然语言理解发展时期
提出了语料库语言学
处理过程的层次
词法分析
从句子中切分中单词,找出词汇的各个词素
确定单词的词义
句法分析
对句子或短语结构进行分析,确定构成句子的各个词
对语法结构进行规范化
语义分析
把分析得到的句法成分与应用领域中的目标表示相关联
语音分析
根据音位规则,从语言流中区分出各个独立的音素
找出各个音节及其对应的词素或词
语用分析
研究语言所存在的外界环境对语言使用所产生的影响
机器翻译
直译式机器翻译系统
规则式机器翻译系统
中介语式机器翻译系统
知识库式机器翻译系统
统计式机器翻译系统
范例式机器翻译系统
语音识别
概念限制
完成语音到文字的转换
主要过程
语音信号采集
语音信号预处理
语音信号的特征参数提取
向量量化
识别
模板匹配法
随机模型法
概率语义分析法
基于人工神经网络的语音识别方法
人工智能在游戏设计中的应用
基础概念
人工智能游戏
观点
角色看起来是具有智能的生命
包含路径搜索、碰撞检测等
通过算法体现角色的“自主性”
里程碑
象棋博弈程序
Turochamp
Deep Blue
AlphaGo
游戏人工智能
分类
定性
非定性
技术
搜索技术
遗传算法
模糊逻辑
神经网络
一阶谓词逻辑
专家系统
机器学习
多智能体
人工生命
基于范例的推理
有限状态机
决策树
置信网络
游戏中的角色
指导与运动
预定义行为
目标导向行为
追逐与躲避
随机移动
追逐与躲避
躲避障碍物
群聚
聚合
对齐
分离
路径搜索
不躲避障碍物
躲避障碍物
小障碍物
较大障碍物
面包屑寻路法
A*搜索算法
智能搜索引擎
智能游戏开发
方法
工程学方法
模拟法
同时采用
工具
创作工具类
Virtools
Vega
Game Editor等
编程语言类
VC++
Java
VC.NET
VB等
二者结合
现状与未来
限制
软件的实时性限制了计算量较大的人工智能算法的应用
人工智能理论本身发展的限制
游戏中角色并不是真正的智能体
设计不符合人类真实的情况
意义
人工智能的高效研究平台
对其它领域应用比较方便又富有乐趣
绪论
人工智能研究应用领域
自动推理证明
博弈
模式识别
机器视觉
自然语言处理
智能信息检索
数据挖掘与知识发现
专家系统
自动程序设计
机器人
组合优化问题
人工神经网络
分布式人工智能与多智能体
智能控制
智能仿真
智能CAD
智能CAI
智能管理与智能决策
智能多媒体系统
智能操作系统
智能计算机系统
智能通信
智能网络系统
人工生命
人工智能研究内容
知识表示
符号表示法
连接机制表示法
机器感知
机器思维
机器学习
机器行为
人工智能的基本概念
目标:使机器具备人的智能
特征
具有感知能力
具有记忆与思维能力
具有学习能力
具有行为能力
人工智能
人工智能就是用人工的方法在计算机上实现智能
人工智能是一门研究如何构造智能机器使之能模拟、延申、扩展人类智能的学科
人工智能发展简史
诞生
时间:1943-1956
1950年,图灵发明了一篇跨时代的论文,并提出了著名的“图灵测试”
1956年,达特茅斯会议:AI的诞生
早期发展热潮
时间:1950-1970
符号主义
早期推理系统
早期神经网络(连结主义)
专家系统
智能计算程序系统,
其内部含有大量的某个领域专家水平的知识与经验,
能够利用人类专家的知识和解决问题的方法来处理该领域问题
其内部含有大量的某个领域专家水平的知识与经验,
能够利用人类专家的知识和解决问题的方法来处理该领域问题
第二次发展热潮
时间:1980-2000
统计学派
“Al之冬”之后,语音识别领域统计学派取代专家系统
机器学习
专门研究计算机怎样模拟或实现人类的学习行为,
以获取新的知识或技能,
重新组织已有的知识结构使之不断改善自身的性能。
以获取新的知识或技能,
重新组织已有的知识结构使之不断改善自身的性能。
神经网络(联结主义重获新生)
神经网络用语模式
识别等任务
识别等任务
第三次发展热潮
时间:2006年之后
大数据广泛应用
深度学习
(非深度)机器学习
AlphaGo为标注的大众传播
知识表示
知识表示与知识表示的概念
概念
有关信息关联到一起所形成的知识
特性
相对正确性
不确定性
由随机性引起的不确定性
由模糊性引起的不确定性
由经验引起的不确定性
由不完全性引起的不确定性
可表示性与可利用性
表示
将人类知识形式化或模型化
语义表示法
基本语义关系
类属关系
包含关系或聚集关系
属性关系
时间关系
位置关系
相近关系或相似关系
因果关系
组成关系
二元关系
语义网络表示知识的方法步骤
语义网络组成
实体
语义关系
一阶谓词逻辑表示法
命题
非真即假的陈述句
谓词
P(x1,x2,...xn)
谓词公式
连接词
否定
析取
合取
蕴涵
量词
全称量词
存在量词
谓词公式
量词的辖域
谓词公示的性质
谓词公式的解释
谓词公式的永真性、可满足性、不可满足性
谓词公式的等价性
谓词公式的永真蕴涵
一阶谓词逻辑知识表示方法
一阶谓词逻辑表示法的特点
优点
自然性
严密性
精确性
容易实现
局限性
不能表示不确定性知识
组合爆炸
效率低
框架表示法
框架的一般结构
槽
槽值
侧面
侧面值
用框架表示知识的例子
教师框架
教室框架
框架表示的特点
结构性
继承性
自然性
产生式表示
产生式
确定性规则知识的产生式表示
不确定性规则知识的产生式表示
确定性事实性知识的产生式表示
不确定性事实性知识的产生式表示
产生式系统
规则库
综合数据库
控制系统
产生式系统的例子:动物识别系统
产生式表示法的特点
优点
自然性
模块性
有效性
清晰性
局限
效率不高
不能表达结构性知识
确定性推理方法
鲁宾孙归结原理
命题逻辑中的归结原理
谓词逻辑中的归结原理
归结反演
步骤
将已知前提表示为谓词公式F
将待证明的结论表示为谓词公式,并得到否定
将为此谓词公式集化为子句集
应用归结原理对子句集中子句进行归结,
并将每次归结得到的归结式并入子句集,
反复循环,直到出现空子句,停止归结,
此时证明结论为真
并将每次归结得到的归结式并入子句集,
反复循环,直到出现空子句,停止归结,
此时证明结论为真
应用归结原理求解问题
定理证明
问题求解:比如小张的老师是谁?
推理的基本概念
推理的定义
从初始证据出发,按某种策略不断运用知识,逐步推出结论
推理方式及分类
演绎推理
归纳推理
默认推理
确定性推理
不确定性推理
单调推理
非单调推理
启发式推理
非启发式推理
推理的方向
正向推理
逆向推理
混合推理
双向推理
冲突消解策略
针对规则的针对性排序
按已知事实的新鲜性排序
按匹配度排序
按条件个数排序
自然演绎推理
概念:从已知为真的事实出发,直接运用经典逻辑的推理规则推出结论的过程
推理规则
P规则
T规则
假言推理
拒取式推理
谓词公式及其化为子句集的方法
消去蕴含,等价符号
将否定符号移至仅靠谓词的位置
变量标准化
消去存在量词
化为前束式
化为Skolem标准型
略去全称量词
消去合取词,将母式用子句集表示
子句变量标准化,使每个子句中变量符号不同
不确定性推理方法
概念
不确定性的表示与度量
知识不确定性的表示
证据不确定性的表示
不确定性的度量
不确定性匹配算法及阈值
组合证据不确定性的算法
不确定性的传递算法
结论不确定性的合成
可信度方法
知识不确定性的表示
C-F模型:IF E THEN H (CF(H,E))
CF(H,E)表示知识的可信度,称为可信度因子
证据的不确定性表示
证据的不确定性也用可信度因子表示CF(E)
组合证据的不确定性
当为多个证据的合取时,选最小
当为多个证据的析取时,选最大
不确定性的传递算法
结论H的可信度:CF(H)=CF(H,E)*max{0,CF(E)}
结论不确定性的合成算法
三个公式
证据理论
概率分配函数
信任函数
似然函数
概率分配函数的正交和
基于证据理论的不确定性推理
建立问题的样本空间D
由经验给出、随机性规则、事实的信度度量求得基本概率分配函数
计算所关心的子集的信任函数值Bel(A)或者似然函数值PL(A)
模糊推理方法
模糊推理的提出与发展
模糊集合
模糊集合的定义
模糊集合的表示方法
隶属函数
模糊集合的运算
包含
相等
交并补
模糊关系与模糊关系的合成
模糊关系
模糊关系的合成
模糊推理
模糊知识表示
对IF A THEN B类型 的模糊推理规则
模糊决策
最大隶属度法
加权平均判决法
中位数法
模糊推理的应用
模糊控制
搜索求解策略
搜索的概念
搜索的基本问题
搜索过程是否一定 能找到解
当搜索过程找到解时是否一定是最佳解
搜索过程的时间和空间复杂性如何
搜索过程是否终止运行或是否陷入一个死循环
主要过程
从初始或目的状态出发,并作为当前状态
扫描操作算子集,并将适用当前状态的一些操作算子作用于上
面得到新的状态,并建立指向父结点的指针
面得到新的状态,并建立指向父结点的指针
检查所生成的新状态是否满足结束状态
满足,得到问题的解
不满足,将新状态作为当前状态,返回
第2步,继续搜索
第2步,继续搜索
搜索策略
数据驱动
从初始状态出发正向搜索
目的驱动
从目的状态出发逆向搜索
状态空间的搜索策略
状态空间表示法
(S,O,S0,G)
S状态集合
O操作算子
S0包含问题的初始状态
G若干具体状态
状态空间的图描述
有向图描述
图的结点表示问题状态
图的弧度表示状态之间的关系,即求解问题的步骤
盲目的图搜索策略
回溯策略
路径状态表
新的路径状态表
不可解状态表
宽度优先搜索策略
完备搜索,只要问题有解,就一定能找的到解,并且一定是最优解
缺点:盲目性太大,产生很多无用节点,搜索效率低
例题:八数码问题
深度优先搜索策略
找到的不一定是最优解,且由于深度的限制,可能会找不到解
例题:卒子穿阵问题
启发式图搜索策略
启发式策略
启发方法
使用该方法的搜索状态空间的算法
启发信息和估价函数
启发信息分类
陈述性启发性信息
过程性启发信息
控制性启发信息
f(n)=g(n)+h(n)
f(n):估价函数定义为从初始结点经过n结点
g(n):从初始状态到n结点的实际代价
h(n):从n结点到目的结点的最佳路径的估计代价
A搜索算法
定义
基于估价函数的加权启发式图搜索策略
步骤
1.把附有f(S0)的初始结点S0放入open表
2.若open表为空,则搜索失败退出
3.移出open表中第一个结点N放入closed表中,并顺序编号n
4.若目标结点把附有f(S0)的初始Sg=N,则搜索成功,结束
5.若N不可扩展,则转步骤2
6.扩展N,生成一组附有f(x)的子结点,对这组子结点作如下处理
A*搜索算法及其特性分析
A*算法:h(n)<=h*(n)
h*(n)为状态n到目的状态的最优路径的代价
h(n)定义为A搜索算法的启发函数
特性
可采纳性
单调性
信息性
0 条评论
下一页