中国人工智能学会通讯——当知识图谱“遇见”深度学习 1.2 知识图谱作为深度学习的输入

简介:

1.2 知识图谱作为深度学习的输入

知识图谱是人工智能符号主义近期进 展的典型代表。知识图谱中的实体、概念 以及关系均采用了离散的、显式的符号化 表示。而这些离散的符号化表示难以直接 应用于基于连续数值表示的神经网络。为 了让神经网络有效利用知识图谱中的符号 化知识,研究人员提出了大量的知识图谱 的表示学习方法。知识图谱的表示学习旨 在习得知识图谱的组成元素 ( 节点与边 ) 的 实值向量化表示。这些连续的向量化表示 可以作为神经网络的输入,从而使得神经 网络模型能够充分利用知识图谱中大量存 在的先验知识。这一趋势催生了对于知识 图谱的表示学习的大量研究。本章首先简 要回顾知识图谱的表示学习,再进一步介 绍这些向量表示如何应用到基于深度学习 模型的各类实际任务中,特别是问答与推 荐等实际应用。

1. 知识图谱的表示学习

image
image
image

除了上述两类典型知识图谱表示学习 模型之外,还有大量的其他表示学习模型。 比如,Sutskever 等人使用张量因式分解和 贝叶斯聚类来学习关系结构。Ranzato 等人 引入了一个三路的限制玻尔兹曼机来学习 知识图谱的向量化表示,并通过一个张量 加以参数化。

当前主流的知识图谱表示学习方法仍 存在各种各样的问题,比如不能较好刻画 实体与关系之间语义相关性、无法较好处 理复杂关系的表示学习、模型由于引入大 量参数导致过于复杂,以及计算效率较低 难以扩展到大规模知识图谱上等等。为了 更好地为机器学习或深度学习提供先验知 识,知识图谱的表示学习仍是一项任重道 远的研究课题。

2. 知识图谱向量化表示的应用

应用 1 问答系统。自然语言问答是人 机交互的重要形式。深度学习使得基于问 答语料的生成式问答成为可能。然而目前 大多数深度问答模型仍然难以利用大量的 知识实现准确回答。Yin 等人针对简单事实 类问题,提出了一种基于 encoder-decoder 框架,能够充分利用知识图谱中知识的深 度学习问答模型 [4]。在深度神经网络中,一 个问题的语义往往被表示为一个向量。具 有相似向量的问题被认为是具有相似语义。 这是联结主义的典型方式。另一方面,知 识图谱的知识表示是离散的,即知识与知 识之间并没有一个渐变的关系。这是符号 主义的典型方式。通过将知识图谱向量化, 可以将问题与三元组进行匹配 ( 也即计算 其向量相似度 ),从而为某个特定问题找到 来自知识库的最佳三元组匹配。匹配过程 如图 1 所示。对于问题 Q:“How tall is YaoMing?”,首先将问题中的单词表示为向量 数组 HQ。进一步寻找能与之匹配的知识图 谱中的候选三元组。最后为这些候选三元 组,分别计算问题与不同属性的语义相似 度。其由以下相似度公式决定:

image

image

应用 2 推荐系统。个性化推荐系统是 互联网各大社交媒体和电商网站的重要智 能服务之一。随着知识图谱的应用日益广 泛,大量研究工作意识到知识图谱中的知 识可以用来完善基于内容的推荐系统中对 用户和项目的内容(特征)描述,从而提 升推荐效果。另一方面,基于深度学习的 推荐算法在推荐效果上日益优于基于协同 过滤的传统推荐模型 [5]。但是,将知识图谱 集成到深度学习的框架中的个性化推荐的 研究工作,还较为少见。Zhang 等人做出了 这样的尝试。作者充分利用了结构化知识 ( 知识图谱 )、文本知识和可视化知识(图 片)[6] 三类典型知识。作者分别通过网络嵌 这里,S(Q,τ) 表示问题 Q 与候选三元组 τ 的 相似度;xQ 表示问题的向量 ( 从 HQ 计算而 得 ),uτ 表示知识图谱的三元组的向量,M 是待学习参数。 入(network embedding)获得结构化知识 的向量化表示,然后分别用 SDAE(Stacked Denoising Auto-Encoder)和层叠卷积自编 码 器 (stacked convolution- autoencoder) 抽 取文本知识特征和图片知识特征;并最终 将三类特征融合进协同集成学习框架,利 用三类知识特征的整合来实现个性化推荐。 作者针对电影和图书数据集进行实验,证 明了这种融合深度学习和知识图谱的推荐 算法具有较好性能。

相关文章
|
3月前
|
机器学习/深度学习 人工智能 算法
猫狗宠物识别系统Python+TensorFlow+人工智能+深度学习+卷积网络算法
宠物识别系统使用Python和TensorFlow搭建卷积神经网络,基于37种常见猫狗数据集训练高精度模型,并保存为h5格式。通过Django框架搭建Web平台,用户上传宠物图片即可识别其名称,提供便捷的宠物识别服务。
411 55
|
2月前
|
机器学习/深度学习 人工智能 算法
基于Python深度学习的眼疾识别系统实现~人工智能+卷积网络算法
眼疾识别系统,本系统使用Python作为主要开发语言,基于TensorFlow搭建卷积神经网络算法,并收集了4种常见的眼疾图像数据集(白内障、糖尿病性视网膜病变、青光眼和正常眼睛) 再使用通过搭建的算法模型对数据集进行训练得到一个识别精度较高的模型,然后保存为为本地h5格式文件。最后使用Django框架搭建了一个Web网页平台可视化操作界面,实现用户上传一张眼疾图片识别其名称。
185 5
基于Python深度学习的眼疾识别系统实现~人工智能+卷积网络算法
|
23天前
|
机器学习/深度学习 人工智能 算法
基于Python深度学习的【蘑菇识别】系统~卷积神经网络+TensorFlow+图像识别+人工智能
蘑菇识别系统,本系统使用Python作为主要开发语言,基于TensorFlow搭建卷积神经网络算法,并收集了9种常见的蘑菇种类数据集【"香菇(Agaricus)", "毒鹅膏菌(Amanita)", "牛肝菌(Boletus)", "网状菌(Cortinarius)", "毒镰孢(Entoloma)", "湿孢菌(Hygrocybe)", "乳菇(Lactarius)", "红菇(Russula)", "松茸(Suillus)"】 再使用通过搭建的算法模型对数据集进行训练得到一个识别精度较高的模型,然后保存为为本地h5格式文件。最后使用Django框架搭建了一个Web网页平台可视化操作界面,
84 11
基于Python深度学习的【蘑菇识别】系统~卷积神经网络+TensorFlow+图像识别+人工智能
|
3月前
|
机器学习/深度学习 人工智能 算法
【宠物识别系统】Python+卷积神经网络算法+深度学习+人工智能+TensorFlow+图像识别
宠物识别系统,本系统使用Python作为主要开发语言,基于TensorFlow搭建卷积神经网络算法,并收集了37种常见的猫狗宠物种类数据集【'阿比西尼亚猫(Abyssinian)', '孟加拉猫(Bengal)', '暹罗猫(Birman)', '孟买猫(Bombay)', '英国短毛猫(British Shorthair)', '埃及猫(Egyptian Mau)', '缅因猫(Maine Coon)', '波斯猫(Persian)', '布偶猫(Ragdoll)', '俄罗斯蓝猫(Russian Blue)', '暹罗猫(Siamese)', '斯芬克斯猫(Sphynx)', '美国斗牛犬
233 29
【宠物识别系统】Python+卷积神经网络算法+深度学习+人工智能+TensorFlow+图像识别
|
4月前
|
机器学习/深度学习 人工智能 自然语言处理
深入理解人工智能中的深度学习技术及其最新进展
深入理解人工智能中的深度学习技术及其最新进展
502 33
|
3月前
|
机器学习/深度学习 人工智能 自然语言处理
揭秘人工智能:深度学习的奥秘与实践
在本文中,我们将深入浅出地探索深度学习的神秘面纱。从基础概念到实际应用,你将获得一份简明扼要的指南,助你理解并运用这一前沿技术。我们避开复杂的数学公式和冗长的论述,以直观的方式呈现深度学习的核心原理和应用实例。无论你是技术新手还是有经验的开发者,这篇文章都将为你打开一扇通往人工智能新世界的大门。
|
4月前
|
机器学习/深度学习 人工智能 自然语言处理
深入理解人工智能中的深度学习技术及其最新进展
深入理解人工智能中的深度学习技术及其最新进展
174 14
|
3月前
|
机器学习/深度学习 人工智能 自然语言处理
揭秘AI:深度学习的奥秘与实践
本文将深入浅出地探讨人工智能中的一个重要分支——深度学习。我们将从基础概念出发,逐步揭示深度学习的原理和工作机制。通过生动的比喻和实际代码示例,本文旨在帮助初学者理解并应用深度学习技术,开启AI之旅。
|
4月前
|
机器学习/深度学习 人工智能 自然语言处理
深入探讨人工智能中的深度学习技术##
在本文中,我们将深入探讨深度学习技术的原理、应用以及未来的发展趋势。通过分析神经网络的基本结构和工作原理,揭示深度学习如何在图像识别、自然语言处理等领域取得突破性进展。同时,我们还将讨论当前面临的挑战和未来的研究方向,为读者提供全面的技术洞察。 ##
|
2月前
|
机器学习/深度学习 人工智能 运维
人工智能在事件管理中的应用
人工智能在事件管理中的应用
112 21

热门文章

最新文章