当前位置:首页 期刊杂志

基于知识图谱的智能决策支持技术及应用研究

时间:2024-05-04

魏 瑾,李伟华,潘 炜

(西北工业大学,陕西 西安 710129)

1 背 景

1.1 传统决策支持系统的局限性

决策支持系统(decision support system,DSS)是一个基于计算机用于支持业务或组织决策活动的信息系统。DSS是运用计算机、数据库、多媒体、网络、类人智能提供辅助决策手段和工具,将决策这样的人类思维活动转变为决策计算和思维的结合。

传统的决策支持包括三个方面:一是需要得力的辅助决策机构,如顾问机构、参事机构等;其次,决策理论方法,需要正确的理论指导;三是需要使用现代化的手段和工具。随着计算机、通信、专家系统等技术的迅速发展,给决策活动带来了新的格局,决策支持使决策活动朝着程序化、科学化方向发展。

决策支持系统在国内外各领域得到了深入的研究。国内,有关大学、研究所分别研制了“分布式多媒体智能决策支持系统平台”、“基于客户/服务器的决策支持系统”、“智能决策系统开发平台IDSDP”、“基于主体的智能协同决策支持系统”等;快速开发平台为开发实际问题的决策支持系统提供快速开发环境,产生了一批应用成果。

但是,传统的决策支持系统存在一定的局限性,主要包括:(1)获取用于决策的知识的难度较大。传统的基于规则的决策支持,例如专家系统,依赖专家的领域知识来形成规则进而进行决策,形成规则的不确定性较多,如专家对行业的理解偏差,归纳总结的能力。(2)决策支持系统的灵活性和适应性较低。如果影响决策的某种因素发生变化,已有的决策系统就无法进行准确的判断。(3)知识协同和相关性较差。正确的决策需要多种知识对于决策的关联作用,解决决策群体之间的协同问题。

1.2 知识图谱

决策支持是跨管理、人工智能、网络等多个学科的综合应用智能系统。新型的决策支持系统需要考虑引入专家系统、自然语言理解尤其是知识库系统的研究;提升决策的快速反应和自动化以提高时效性;实现知识的共享、关联及继承性[1]。

知识图谱本质上是语义网络,是一种基于图的数据结构,由节点(point)和边(edge)组成。在知识图谱里,每个节点表示现实世界中存在的“实体”,每条边为实体与实体之间的“关系”。知识图谱是关系的最有效的表示方式。通俗地讲,知识图谱就是把所有不同种类的信息(heterogeneous information)连接在一起而得到的一个关系网络。知识图谱提供了从“关系”的角度去分析问题的能力。

知识图谱示意如图1所示。

图1 知识图谱示意

在构建知识图谱的过程中,有几个关键组成部分:

·知识的抽取:信息源主要来自两种方式:一种是业务领域本身的数据,这部分数据通常包含在数据库表并以结构化的方式存储以及业务系统中以半结构化或非结构化存在;另一种是网络上公开、抓取的数据,这些数据通常是非结构化的数据。

·知识图谱的存储:一种是基于RDF的存储;另一种是基于图数据库的存储。RDF一般以三元组的方式来存储数据而且不包含属性信息。图数据库一般以属性图为基本的表示形式,所以实体和关系可以包含属性。RDF存储的优点是数据的发布以及共享,图数据库的优点是高效的图查询和搜索。

当前,知识图谱的应用目前集中在搜索、推荐、问答、解释和辅助决策等方面[2]。知识图谱在认知领域已经得到了很多应用,例如在语义搜索方面,Google和百度使用知识图谱应用在新一代的搜索引擎中。在人机交互和问答系统领域,有聊天机器人微软小冰和Apple公司的Siri等。在决策支持方面,IBM在Watson Health中使用了知识图谱进行临床领域的决策支持[3]。此外,越来越多的企业将知识图谱作为云平台或数据中台的基础数据服务提供给上层应用消费。

2 概要说明

综合知识图谱的应用场景和传统决策支持系统的局限性,提出了一种基于知识图谱的智能决策支持技术,使用知识图谱代替了传统决策支持系统的决策模型。通过构建面向领域的知识图谱、基于知识图谱的决策模型建模,面向特定问题进行决策分析。

文中提出的基于知识图谱的智能决策支持总体架构分为四个层次结构,如图2所示。

·基础层:为上层的分析提供基础平台能力,包括存储能力、计算资源分配能力、实时处理能力等。其中结构化数据的存储使用关系型数据库PostgreSql,非结构化数据(如图片、语音、视频、网页索引等)的存储使用开源的HDFS分布式文件系统。图文件存储使用JanusGraph图数据库提出图存储和索引的能力。

·数据层:数据源主要来源于四部分:(1)通用的行业知识来源于互联网的公开资料;(2)文献资料提供领域内的公开专业知识包含一些领域内的语义和语料信息;(3)行业积累的信息主要是指行业内的历史数据信息,例如存储在专业系统数据库的结构化信息,持久化存储在存储系统或光盘的行业视频、音频信息等;(4)领域专家沉淀的专家信息,通过对专家信息的收集和整理获得。

数据采集是指对各种数据源,不同数据类型采取的特定采集技术。对于互联网的数据采用网络爬虫的技术进行收集和整理。对文献资料多采用人工录入的方式。对于结构化数据,使用数据仓库分层处理模式。对于领域专家知识使用访谈、归纳等信息抽取方式。

数据处理是通过对采集后的数据进行加工处理获取构建知识图谱所需的各种信息,包括:数据词典、语义库、语料库、通用知识库、领域知识库、规则库、关系表。

数据存储是将数据处理后的数据按各自的形式存储在存储系统中。

图2 总体结构

分析层:与传统的决策支持系统不同,文中除了基于规则的决策外,还提供了基于知识关联分析、基于图谱索引的决策。在分析层,通过自然语言处理等技术构建知识图谱,并在知识图谱之上建立决策模型。在问题分析和求解过程中,根据问题的类型使用不同的决策模型以达到最优的问题求解。

知识图谱的构建是分析层的重要部分,图谱构建的质量直接决定了上层应用的效果。知识图谱可以将多源异构的数据汇聚到一起[4]。在文中背景下的电信领域,领域知识图谱的构建比起通用知识图谱,更加依赖于结构化数据和非结构化数据的结构去构建行业领域的图谱网络。在知识图谱构建中,主要包括领域内知识表示建模、实体识别与实体链接、关系事件抽取、隐性关系发现等技术[5]。

·应用层:分析层向上通过APIs接口提供应用级别的决策能力开放。

3 基于知识图谱的智能决策支持技术

如图2所示,基于知识图谱的智能决策系统的建立主要有四个过程:数据的采集、预处理和数据加工;面向特定领域的知识图谱的构建[6];基于特定领域知识图谱的决策模型的构建;问题分析及智能决策。

3.1 数据采集加工

数据采集技术通过对数据进行提取、转换、加载,最终挖掘数据的潜在价值,给知识图谱的构建和决策建模提供数据支持。从数据源抽取出所需的数据,经过数据清洗,按照预先定义好的数据模型,将数据加载到数据仓库中,最后对数据仓库中的数据进行数据分析和处理。由于采集的数据类型各异,对于不同种类的数据进行数据分析,必须通过提取技术。将复杂格式的数据,进行数据提取,从数据原始格式中提取(extract)出需要的数据。对于数据提取后的数据,由于数据源头的采集可能存在不准确性,所以必须进行数据清洗,对于那些不正确的数据进行过滤、剔除。针对不同的应用场景,对数据进行分析的工具或者系统不同,还需要对数据进行数据转换(transform)操作,将数据转换成不同的数据格式,最终按照预先定义好的数据仓库模型,将数据加载(load)到数据平台中。数据采集加工流程如图3所示。

·行业业务系统数据采集:由于业务系统的数据常存放在Oracle或者MySql等传统数据库中,因此需要使用工具将数据导入到大数据平台中。文中使用Apache Sqoop进行数据转换,将结构化数据存储(如关系数据库、企业数据仓库和NoSQL系统)导入到分布式文件系统HDFS上,并将表填入Hive中。Hive是建立在Hadoop之上的开源数据仓库。Hive支持使用类似SQL的声明性语言(HiveQL)表示的查询。

图3 数据采集加工流程

通用知识采集:通过网络爬虫和一些网站平台提供的公共API等方式从互联网上获取通用的行业数据。这样就将非结构化数据和半结构化数据的网页数据从网页中提取出来。并将其提取、清洗、转换成结构化的数据,将其存储为统一的本地文件数据。

在数据采集和加工后,将加工后的数据分为两类:一类为知识相关的数据,用于构建知识图谱,包括行业数据和通用数据、知识描述的语义库和语料库[7];另一类为间接数据,用于从知识进行索引,包括索引结构、索引元数据、索引存储和索引的数据存储。这两类数据都统一存储和管理在数据平台中。

3.2 面向领域的知识图谱构建

知识图谱的构建由知识表示、知识抽取、知识推理三个主要部分构成[7]。

·知识表示:文中用两种三元组来表示实体之间的关系以及实体的属性。用Ei表示第i个实体,Ej表示第j个实体,Ei和Ej之间的关系用Rij表示,那么三元组(Ei,Rij,Ej)表示为实体Ei和Ej之间的联系。

用Ax表示实体Ei的第x个属性名称,Vx表示该属性对应的值。那么三元组(Ei,Ax,Vx)表示为实体Ei的第x个属性描述,同理三元组(Ei,Ay,Vy)表示实体Ei的第y个属性描述。

基于这两类三元组,知识图谱就可以描述为多个实体关系网,如图4所示,多实体之间通过关联关系组成了一个知识图谱网络。网络的节点表示实体,实体分别与其他实体之间产生关系,并且通过属性三元组表示实体的各种属性。

图4 基于三元组表示知识图谱结构

知识抽取:知识抽取[8]的目标是从预处理后的数据中识别知识图谱的实体以及实体之间的关系,从而构建本体[4],建立知识图谱。文中提出的知识抽取方法的过程为:

(1)根据数据词典标注领域数据。为了解决非结构化文本信息难于抽取实体的问题,首先通过数据字典对领域数据进行标注,获得标注数据集,以二元组(datai,labelj)表示datai对应的标签为labelj。其中datai为数据词典样本中提取的数据,labelj表示样本的标签,文中表示为“实体”、“属性名”、“属性值”、“关系”等。例如:(电话号码:实体)。

(2)基于规则判断和机器学习算法识别数据中的实体及实体的属性。基于规则判断用于简单实体的抽取,如存放于数据仓库中的结构化数据。

对于大量的非结构化文本数据,采用LSTM深度学习的方法识别实体及属性(见图5)。实体识别分为两部分:模型训练过程:以标注的领域数据作为样本数据,使用LSTM算法进行训练,获得文本分类模型;实体识别过程:使用训练好的模型对非结构化的文本数据进行识别和分类,分类的结果即为各实体三元组(E,A,V),其中E表示实体名,A表示实体的属性名,V表示该属性值。

图5 基于LSTM深度学习的实体识别

(3)关系抽取的过程类似于实体识别。在已获得实体列表的基础上,基于规则和启发式算法对关系和属性进行抽取[9]。最终将实体和相关实体通过关系连接组合,获得实体关系三元组(Ei,Rij,Ej)。

·知识推理是指根据知识图谱中的已有知识,推断出新的、未知知识,即潜在知识的挖掘和发现[10],如图6所示。

图6 知识推理示意

实体E1和E2之间有关联,E2和E3有另外一种关联,知识推理的目的就是判断E1和E3之间是否存在关联关系。在知识推理方面,使用基于规则技术[11](规则或模版、一阶谓词逻辑推理)。

3.3 智能决策模型

提出的智能决策模型分别为基于规则的决策支持[12]和基于关联分析的决策模型。

·基于规则的决策支持。

基于规则的决策支持有两个过程:(1)规则策略的建立。由领域专家根据领域知识库建立规则策略,并通过样本数据验证规则的准确性和有效性[13];(2)决策过程。决策者根据建立的规则对问题进行分析和判断,最终得到决策推理的结果。规则的描述根据规则引擎的不同,一般使用表达式if(…),then。其中if可使用算术操作符、逻辑操作符及其他,操作符可以组合使用。

·基于关联分析的决策模型。

基于规则的决策能够针对具体的单一事件进行推理决策,但是在现实行为中,不同个体之间的协同以及群体性特征往往会影响决策的准确性。因此,引入关联分析显得尤为重要。聚类实体群决策见图7。

图7 聚类实体群决策

基于关联关系的决策算法如下:

步骤一:基于K-Means的实体群聚类。

根据K-Means方法,在知识图谱中对有关联的实体进行聚类。算法如下:

Repeat

{

fori=1 to m

①c(i):=argmink|E(i)-μk|2

fork=1 toK

}

①是计算每个实体E(i)到每个中心节点μk最近的距离,将此实体划分到该中心节点对应的实体群中。

②是对每个实体群C(k)重新计算中心节点。

不断的重复①和②,最终得到实体群的聚类。

步骤二:基于实体群获得关联实体关系。

当存在(Ej,Ejk,Ek),且Ei与Ek同属一个实体群,获得Ei对Ej的决策。

3.4 问题分析及求解

在对问题进行分析求解时,首先对问题进行识别和分类,通过对问题的识别,决定是采用模型求解还是采用推理机求解。如果采用模型,则由模型自动搜索数据,产生结果;如果采用推理机,则由推理机扫描知识库(规则和事实),产生结果[14]。

3.5 面向电信领域反欺诈识别的应用

电信诈骗是一种低成本、高回报的犯罪,犯罪团伙通过拨打诈骗电话,发送短信等方式骗取受害人财产。当前电信反欺诈已成为电信领域的一个重要的研究内容。

传统的电信反欺诈往往是通过单一的规则判断进行,例如来电号码是否被标记为诈骗电话。这种识别方法在现实中的准确率并不高,容易出现漏报误报情况。文中使用基于知识图谱的智能决策分析,能够通过关系网络识别诈骗团伙,进而从群体关联的角度识别诈骗电话。

·根据实体关系构建知识图谱。

在反欺诈领域,设定实体为每个电话号码个体,实体之间的联系有多种,包括电话主叫/被叫、短信、来源地、号码同一注册人等。在运营商数据中,根据实体之间的联系搭建号码实体关系知识图谱。

·根据K-Means聚类诈骗团伙。

根据文中算法对号码进行聚类,假如号码A和号码B同属一个实体群,并且号码A对C的通话被规则判断为欺诈电话,那么根据算法可以计算出B对C的通话是否为欺诈电话。反欺诈决策示意如图8所示。

图8 反欺诈决策示意

4 结束语

文中提出了基于知识图谱的智能决策技术,介绍了从实体识别、知识图谱构建到聚类分析、决策模型构建等技术和方法。能够结合传统决策支撑基于规则判断的方法和知识图谱对问题进行分析和求解。充分考虑了现实环境中多实体相关性对决策的影响。

知识图谱是描述现实世界的组织结构,通过引入知识图谱,能够以更易于理解并且更符合现实环境的方式进行决策建模。领域知识图谱目前在很多行业中发挥了越来越重要的作用,技术上的挑战也有不断的进展。文中提出的方法目前对领域知识图谱的知识推理还没有做深入研究,未来需要结合领域知识对知识图谱的构建、知识推理方法进行研究,以更好地支撑特定领域、行业的智能决策。

免责声明

我们致力于保护作者版权,注重分享,被刊用文章因无法核实真实出处,未能及时与作者取得联系,或有版权异议的,请联系管理员,我们会立即处理! 部分文章是来自各大过期杂志,内容仅供学习参考,不准确地方联系删除处理!