内容简介
不确定性知识处理是人工智能领域最基本的研究问题。《不确定性知识处理的基本理论与方法》对知识表示和推理、不确定性知识处理(亦简称不确定性处理)的基本理论与方法进行了全面、系统的阐述,内容包括知识表示与推理方法、不确定性知识处理的经典理论与方法、贝叶斯网推理与学习方法、粗糙集理论等四部分。
《不确定性知识处理的基本理论与方法》一方面使读者能够透彻掌握主要的不确定性处理方法,另一方面也使读者能够掌握对不确定性处理开展科学研究及理论联系实际的方法。为此,《不确定性知识处理的基本理论与方法》在描述每个不确定性处理模型时,对模型的背景、模型的核心内容、概念的梳理与厘清、关键论点的证明、必要的算法、应用实例、模型的不足或困难等,都加以全面刻画。书中还融入了作者的研究成果,其中一些难题是应用领域专家提出的。
《不确定性知识处理的基本理论与方法》可供计算机、自动化等领域的科研与工程技术人员参考,也可作为高等院校计算机、自动化等相关专业教师、研究生的教材和教学参考书。
内页插图
目录
前言
第1章 绪论
1.1 概述
1.2 内容框架
参考文献
第2章 知识表示
2.1 知识表示概述
2.1.1 知识的定义和结构
2.1.2 知识的阈值
2.1.3 知识的类型
2.1.4 常用的知识表示
2.2 逻辑表示
2.2.1 命题逻辑
2.2.2 一阶谓词逻辑
2.3 产生式规则表示
2.4 语义网表示
2.5 框架表示
2.6 脚本表示
2.7 本体表示
2.8 小结
参考文献
第3章 推理方法与专家系统
3.1 推理概述
3.1.1 推理方法及分类
3.1.2 推理控制策略及分类
3.2 逻辑推理系统
3.2.1 演绎逻辑与三段论
3.2.2 推理规则
3.2.3 逻辑系统
3.2.4 归结与演绎
3.3 产生式推理系统
3.3.1 产生式系统概述
3.3.2 产生式系统的体系结构及工作原理
3.3.3 部分匹配
3.3.4 与或树
3.3.5 正向和反向推理算法
3.3.6 匹配冲突消解
3.4 其他推理方法
3.4.1 类比
3.4.2 生成与验证
3.4.3 溯因
3.5 专家系统概述
3.5.1 专家系统的定义
3.5.2 专家系统的体系结构
3.5.3 专家系统的主要特征
3.5.4 专家系统的类型
3.5.5 一个简单的专家系统示例
3.6 小结
参考文献
第4章 确定性因子理论
4.1 信任和不信任
4.2 信任与不信任之度量
4.3 不确定性因子的计算
4.4 不确定性值计算的封闭性
4.5 不确定性值计算例
4.6 规则集合(规则库)的评价
4.7 小结
参考文献
第5章 确定性因子模型改进及其在冲突消解中的应用
5.1 不确定性知识的描述
5.2 不确定性值的传播算法
5.3 最大存在风险和最大不存在风险
5.4 冲突消解模型
5.5 小结
参考文献
第6章 基于概率论的处理方法
6.1 概述
6.2 确定性证据的不确定性处理
6.3 不确定性证据的不确定性推理
……
第7章 证据理论
第8章 一种面向有序命题类问题的信息融合新方法
第9章 加权模糊逻辑
第10章 专家系统中的一种模糊推理模型——一种二阶不确定性处理模型
第11章 专家系统中部精确推理单位元
第12章 两级不确定性知识处理模型
第13章 多ES协作系统中不一致性处理
第14章 协作知识系统中冲突消解的辩论方法
第15章 Belief的解释和更新
第16章 布尔代数上的Belief模型
第17章 处理二阶不确定性的内涵方法
第18章 贝叶斯网的基本概念及推理方法
第19章 贝叶斯网学习方法
第20章 经典粗糙集
第21章 粗糙集关系扩展模型
第22章 粗糙集公理组的极小化
附录
前言/序言
在现实世界中,确定性事物是相对的,不确定性事物是绝对的。不确定性知识处理是人工智能领域最基本的研究课题。本书全面、系统地介绍了不确定性知识处理的基本理论与方法。全书分为四个部分。
第一部分
知识表示是人工智能领域的基本研究问题。知识表示与推理密不可分,确定性和不确定性推理均建立在知识表示之上。在建造推理系统时,首先要考虑的问题就是采用什么样的方式表示知识,才能既便于知识推理,又便于人们理解知识推理的结果。为此,首先介绍了逻辑、规则、语义网、框架、脚本和本体等知识表示方法。
推理是指按照某种策略从已知事实推导出结论的过程。不确定性推理是确定性推理的推广和拓展,不确定性推理方法建立在确定性推理方法和控制策略的基础上。为使读者更好地理解不确定性处理方法,本书首先介绍了基于逻辑和产生式的两种主要确定性推理方法。后文讲述的多种不确定性处理方法均建立于其上。作为确定性推理系统的示例,本书还描述了专家系统的基本概念、体系结构、推理过程,以及一个基于规则的专家系统实例。
第二部分
这部分介绍了确定性因子理论、基于概率论的推理方法和证据理论等经典不确定性推理模型(称不确定性知识处理模型更贴切,简称不确定性处理模型),以及我们对这些模型的一些重要改进和扩展。以确定性因子理论为例:证明了确定性因子理论的封闭性,厘清了证据的存在、不存在和无知阈值,增加了规则强度阈值和第二个规则强度,给出了规则质量的评价方法,提出了综合节点和推理链长度等概念,并指出一般情况下专家系统的推理链长度∈[2,5]。
阐述了我们提出的一些不确定性处理模型和多知识系统协作与冲突消解框架。力求从两个层次和多个方面提高不确定性知识处理的准确性和可靠性。用“处理”代替“推理”是以更显式的方式表明模型包括知识表示与推理两部分。
提出一种证据理论模型,将无知部分赋给论域S的余集,定义了认可函数,进而针对一类问题给出了线性阶简化证据理论模型SET;提出有序命题概念,进而借鉴SET给出了针对有序命题的凸函数证据理论模型CFET,首次解决了有序命题类问题的不确定性处理难题;在CFET的基础上,提出了基本支持函数的凸度、扩展无知、基本与准-基本支持函数的信息心、信息熵,基本支持函数间的相容性等概念及其计算方法,进而提出整合这些概念的基本支持函数的新融合模型NFM。现实应用领域问题纷繁复杂、千差万别,有序命题类问题就是其中的一个代表。除CFET和NFM外,现有的不确定性处理模型均不能解决该类问题。这给出了两点启示:不确定性知识处理的理论和方法的通用性是相对的;应深入分析现实应用问题,给出其形式化分类,进而提出针对某一类别应用问题的高效不确定性处理模型(或称信息、知识融合模型)。
提出一种能有效处理规则前提诸证据对规则结论之重要性不尽相同的加权模糊逻辑模型,此前人们在处理规则前件诸证据时只能对它们等量齐观。提出一种统一不确定性推理模型——单位元,从代数系统的层面,揭示了不确定性处理模型的共性。
我们研究了假设空间的布尔代数结构,讨论了证据空间与假设空间之间的双向关联。深入讨论了“信任值的修正、更新和集中”与限定化概念的关系,证明了几何条件规则所产生的“更新质量函数”是“修正质量函数”和集中“质量函数”的限定化,“修正质量函数”和“集中质量函数”之间没有直接联系;推广了证据理论,为证据理论建立了一种合理的代数结构,并为基于布尔代数的证据理论的应用奠定了基础。
在基于规则的知识系统中,若想使获取的规则准确无误,是极其困难的。由此,二级(或二阶)不确定性概念被提出,二级不确定性是关于一级不确定性的不确定性。我们提出3个二级不确定性处理模型:基于模糊语言逻辑的模糊推理模型;用外延方法处理证据信度偏差与规则强度偏差的二级不确定性推理模型;二级不确定性问题的内涵处理方法。研究表明,在解决应用领域的问题时,考虑二级不确定性恰到好处。二级不确定性处理的引入,显著提高了知识系统求解的可靠性。
随着知识系统研究的深入及应用领域的扩大,迫切要求大幅提高系统性能的方法。多知识系统协作就是其中的方法之一。通常包括分解、分布、互助和集合(亦称“组协作”,西医会诊是典型的组协作)等协作方式。由多个知识系统组成的协作系统称为协作知识系统。一方面,协作知识系统的问题求解性能会明显超过单个知识系统,另一方面,“哪里有协作,哪里就有冲突”,如果缺乏冲突信息、知识的有效融合方法,“协作”只能是一句空话。
信息、知识融合是不确定性信息、知识处理模型的关键技术之一,特别是冲突信息、知识的融合是亟待解决的挑战性难题。我们提出基于协作方式、问题特点和冲突特性的分类、综合冲突消解思想,进而提出多种协作冲突消解方法及多维辩论模型。
第三部分
就经典数值不确定性处理的理论与方法而言,一方面其应用广泛并取得很大成功,另一方面它们中的大多数存在诸多不足,甚至困难。20世纪80年代末,贝叶斯网作为不确定性处理最有前景的技术逐渐兴起。贝叶斯网将概率论和图论相结合,它是一种描述随机变量间依赖关系并能紧凑高效表示联合概率分布的概率图模型,其理论基础之坚实自不待言。贝叶斯网以结构为基础,其问题求解需要推理,其解答是可理解的;其通过条件独立性关系还可将复杂问题分解成多个较简单的子问题,能较好地解决“大变量集”统计难题。同时注意学习与推理深层次结合,是结构化机器学习未来的关键目标之一。概率图模型有望解决结构化机器学习领域的这一挑战性难题。这正是将贝叶斯网推理与学习两方面的部分内容纳入本书的思考。本书描述了贝叶斯网的基本概念和几种主要的推理方法,介绍了完备和非完备数据下贝叶斯网参数和结构学习的方法,并给出了我们的一些研究结果。
探索未知:风险、概率与决策的边界 在这瞬息万变的时代,我们无时无刻不身处信息的不确定性之中。从宏观的全球经济波动,到微观的个体健康评估,再到技术前沿的未知探索,都充斥着我们无法完全掌握的变量和无法精确预知的未来。如何理解、量化并有效地应对这些不确定性,已成为驱动科学、技术、经济乃至社会进步的关键挑战。本书并非直接探讨“不确定性知识处理”这一特定术语,而是将目光投向了更为广阔的、与之息息相关的科学领域,深入剖析人类如何认识、建模和驾驭那些“不确定”的现实。 我们将从人类认识不确定性的历史足迹出发。自古以来,先哲们就对偶然、概率和命运进行了深邃的思考。从古希腊哲学家对“偶然性”的哲学辨析,到中世纪对“运气”的宗教解读,再到文艺复兴时期对数学和统计的初步探索,人类对不确定性的认知始终伴随着对未知世界的敬畏与好奇。直到概率论在17世纪的诞生,为量化随机现象提供了首个严谨的数学框架。本书将追溯这一波澜壮阔的思想史,勾勒出人类从模糊感知到理性分析的漫长旅程,理解那些奠定我们今日认知基础的先驱性工作。我们将探讨蒙特卡罗方法等早期探索,以及它们如何在模拟复杂系统、理解随机过程方面展现出的巨大潜力。 在这一基础上,本书将深入剖析概率论与统计学的核心思想。概率论作为描述随机现象的语言,其公理体系、条件概率、贝叶斯定理等基本概念,构成了理解不确定性的基石。我们将详细阐述这些理论如何帮助我们量化事件发生的可能性,以及如何根据新的信息更新我们的认知。统计学则将概率论的思想应用于实际数据的分析,从样本推断总体,从已知探索未知。本书将深入探讨描述性统计、推断性统计,以及回归分析、假设检验等核心方法,展示如何通过数据来揭示隐藏在不确定性背后的规律。我们会关注数据采集的挑战,以及数据分析过程中可能出现的偏差和误读,强调严谨的数据科学方法论的重要性。 风险评估与管理是本书关注的另一个核心领域。在不确定性环境中,风险的存在是必然的。本书将从理论层面剖析风险的本质,包括其发生概率、潜在影响以及对决策的影响。我们将探讨不同类型的风险,如金融风险、工程风险、环境风险等,并介绍各种风险评估工具和技术。例如,在金融领域,我们将探讨 VaR (Value at Risk) 模型、蒙特卡罗模拟在风险度量上的应用;在工程领域,我们将讨论故障树分析 (FTA)、事件树分析 (ETA) 等方法;在环境领域,我们将审视环境风险评估的复杂性与挑战。更重要的是,本书将着重探讨风险管理策略,包括风险规避、风险转移(如保险)、风险减轻以及风险接受等,旨在为决策者提供应对不确定性风险的系统性框架。 决策理论是本书的又一重要组成部分。面对不确定性,做出最优决策是一项极其困难的任务。本书将从理性决策的视角出发,介绍包括效用理论、博弈论等在内的决策模型。我们将探讨在风险和不确定性条件下,如何选择能够最大化预期收益或最小化预期损失的策略。本书将深入分析决策树、马尔可夫决策过程 (MDP) 等模型,以及它们在复杂决策场景中的应用。我们将关注信息不对称、认知偏差等因素对决策过程的影响,并探讨如何通过结构化思考和量化分析来克服这些障碍,做出更明智的选择。特别是在人工智能领域,如何让机器在不确定的环境中做出“理性”决策,将是本书探讨的重点之一。 机器学习与人工智能中的不确定性表示与处理是本书现代前沿的聚焦。在人工智能飞速发展的今天,如何让AI系统能够理解和处理信息中的不确定性,已经成为至关重要的课题。本书将介绍不确定性在机器学习中的不同表现形式,例如模型预测的不确定性(预测误差)、数据本身的不确定性(噪声、缺失值)以及模型本身的局限性。我们将深入探讨贝叶斯神经网络、高斯过程、蒙特卡罗Dropout等在量化模型不确定性方面的技术。此外,本书还将关注可解释人工智能 (XAI) 的重要性,阐述为何理解AI的决策过程,尤其是其不确定性来源,对于建立信任和确保安全至关重要。我们将探讨一些方法,用于揭示AI模型的“思考”过程,使其决策过程更加透明化,从而更好地应对现实世界中的复杂性和不确定性。 信息融合与证据理论也是本书的另一重要支点。在现实世界中,我们往往需要整合来自不同来源、不同质量的证据来形成一个更全面的认识。本书将介绍信息融合的基本原理和常用方法,特别是那些能够有效处理证据不确定性和冲突的理论。例如,我们将探讨证据理论 (D-S Theory),它提供了一种处理不确定性证据的数学框架,允许不同证据之间的冲突和不确定性得到量化和融合。这将有助于我们理解如何在传感器网络、多源信息系统中,综合各种零散、不确定的信息,最终做出更鲁棒的判断。 复杂系统与涌现行为的视角将为本书增添更深层次的理解。许多现实世界中的现象,如天气变化、生物进化、社会经济动态等,都表现出高度的复杂性,其行为难以从个体组件的属性中简单预测。本书将探讨复杂系统的特性,例如非线性、反馈回路、自组织和涌现行为,以及这些特性如何导致不确定性。我们将介绍建模复杂系统的常用方法,如代理模型 (Agent-based Modeling) 和系统动力学 (System Dynamics),它们能够帮助我们模拟和理解这些系统的动态行为,并在一定程度上预测其可能的不确定性。 最后,本书将展望不确定性认知与处理的未来发展方向。随着计算能力的提升和理论研究的深入,我们正站在理解和驾驭不确定性的新起点。本书将探讨人工智能在更深层次上理解和表达不确定性的潜力,例如在生成模型、强化学习中的不确定性感知。同时,也将关注跨学科的融合,例如认知科学、神经科学与不确定性处理的结合,以期更深入地理解人类大脑如何应对不确定性。未来的研究将更加侧重于构建具有鲁棒性、可解释性和适应性的系统,能够有效地在高度不确定的动态环境中运行。 总而言之,本书旨在为读者提供一个多维度、系统性的视角,去理解和应对现实世界中的不确定性。我们不直接聚焦于“不确定性知识处理”这一狭隘概念,而是从概率论、统计学、决策理论、风险管理、机器学习、证据理论乃至复杂系统等一系列相互关联的科学领域,全面展现人类在认识、量化和驾驭不确定性方面所取得的成就和面临的挑战。通过深入剖析这些基础理论与方法,本书希望能够启发读者以更深刻、更科学的态度去审视和处理那些隐藏在未知背后的风险与机遇。