中国人工智能学会通讯——当知识图谱“遇见”深度学习 1.2 知识图谱作为深度学习的输入

简介:

1.2 知识图谱作为深度学习的输入

知识图谱是人工智能符号主义近期进 展的典型代表。知识图谱中的实体、概念 以及关系均采用了离散的、显式的符号化 表示。而这些离散的符号化表示难以直接 应用于基于连续数值表示的神经网络。为 了让神经网络有效利用知识图谱中的符号 化知识,研究人员提出了大量的知识图谱 的表示学习方法。知识图谱的表示学习旨 在习得知识图谱的组成元素 ( 节点与边 ) 的 实值向量化表示。这些连续的向量化表示 可以作为神经网络的输入,从而使得神经 网络模型能够充分利用知识图谱中大量存 在的先验知识。这一趋势催生了对于知识 图谱的表示学习的大量研究。本章首先简 要回顾知识图谱的表示学习,再进一步介 绍这些向量表示如何应用到基于深度学习 模型的各类实际任务中,特别是问答与推 荐等实际应用。

1. 知识图谱的表示学习

image
image
image

除了上述两类典型知识图谱表示学习 模型之外,还有大量的其他表示学习模型。 比如,Sutskever 等人使用张量因式分解和 贝叶斯聚类来学习关系结构。Ranzato 等人 引入了一个三路的限制玻尔兹曼机来学习 知识图谱的向量化表示,并通过一个张量 加以参数化。

当前主流的知识图谱表示学习方法仍 存在各种各样的问题,比如不能较好刻画 实体与关系之间语义相关性、无法较好处 理复杂关系的表示学习、模型由于引入大 量参数导致过于复杂,以及计算效率较低 难以扩展到大规模知识图谱上等等。为了 更好地为机器学习或深度学习提供先验知 识,知识图谱的表示学习仍是一项任重道 远的研究课题。

2. 知识图谱向量化表示的应用

应用 1 问答系统。自然语言问答是人 机交互的重要形式。深度学习使得基于问 答语料的生成式问答成为可能。然而目前 大多数深度问答模型仍然难以利用大量的 知识实现准确回答。Yin 等人针对简单事实 类问题,提出了一种基于 encoder-decoder 框架,能够充分利用知识图谱中知识的深 度学习问答模型 [4]。在深度神经网络中,一 个问题的语义往往被表示为一个向量。具 有相似向量的问题被认为是具有相似语义。 这是联结主义的典型方式。另一方面,知 识图谱的知识表示是离散的,即知识与知 识之间并没有一个渐变的关系。这是符号 主义的典型方式。通过将知识图谱向量化, 可以将问题与三元组进行匹配 ( 也即计算 其向量相似度 ),从而为某个特定问题找到 来自知识库的最佳三元组匹配。匹配过程 如图 1 所示。对于问题 Q:“How tall is YaoMing?”,首先将问题中的单词表示为向量 数组 HQ。进一步寻找能与之匹配的知识图 谱中的候选三元组。最后为这些候选三元 组,分别计算问题与不同属性的语义相似 度。其由以下相似度公式决定:

image

image

应用 2 推荐系统。个性化推荐系统是 互联网各大社交媒体和电商网站的重要智 能服务之一。随着知识图谱的应用日益广 泛,大量研究工作意识到知识图谱中的知 识可以用来完善基于内容的推荐系统中对 用户和项目的内容(特征)描述,从而提 升推荐效果。另一方面,基于深度学习的 推荐算法在推荐效果上日益优于基于协同 过滤的传统推荐模型 [5]。但是,将知识图谱 集成到深度学习的框架中的个性化推荐的 研究工作,还较为少见。Zhang 等人做出了 这样的尝试。作者充分利用了结构化知识 ( 知识图谱 )、文本知识和可视化知识(图 片)[6] 三类典型知识。作者分别通过网络嵌 这里,S(Q,τ) 表示问题 Q 与候选三元组 τ 的 相似度;xQ 表示问题的向量 ( 从 HQ 计算而 得 ),uτ 表示知识图谱的三元组的向量,M 是待学习参数。 入(network embedding)获得结构化知识 的向量化表示,然后分别用 SDAE(Stacked Denoising Auto-Encoder)和层叠卷积自编 码 器 (stacked convolution- autoencoder) 抽 取文本知识特征和图片知识特征;并最终 将三类特征融合进协同集成学习框架,利 用三类知识特征的整合来实现个性化推荐。 作者针对电影和图书数据集进行实验,证 明了这种融合深度学习和知识图谱的推荐 算法具有较好性能。

相关文章
|
7天前
|
机器学习/深度学习 人工智能 安全
探索AI的未来:从机器学习到深度学习
【10月更文挑战第28天】本文将带你走进AI的世界,从机器学习的基本概念到深度学习的复杂应用,我们将一起探索AI的未来。你将了解到AI如何改变我们的生活,以及它在未来可能带来的影响。无论你是AI专家还是初学者,这篇文章都将为你提供新的视角和思考。让我们一起探索AI的奥秘,看看它将如何塑造我们的未来。
36 3
|
9天前
|
机器学习/深度学习 数据采集 人工智能
AI赋能教育:深度学习在个性化学习系统中的应用
【10月更文挑战第26天】随着人工智能的发展,深度学习技术正逐步应用于教育领域,特别是个性化学习系统中。通过分析学生的学习数据,深度学习模型能够精准预测学生的学习表现,并为其推荐合适的学习资源和规划学习路径,从而提供更加高效、有趣和个性化的学习体验。
57 9
|
25天前
|
机器学习/深度学习 人工智能 自然语言处理
探索人工智能的深度学习与自然语言处理前沿
【10月更文挑战第10天】探索人工智能的深度学习与自然语言处理前沿
|
8天前
|
机器学习/深度学习 人工智能 算法
AI在医疗:深度学习在医学影像诊断中的最新进展
【10月更文挑战第27天】本文探讨了深度学习技术在医学影像诊断中的最新进展,特别是在卷积神经网络(CNN)的应用。文章介绍了深度学习在识别肿瘤、病变等方面的优势,并提供了一个简单的Python代码示例,展示如何准备医学影像数据集。同时强调了数据隐私和伦理的重要性,展望了AI在医疗领域的未来前景。
25 2
|
11天前
|
机器学习/深度学习 人工智能 物联网
深度学习:物联网大数据洞察中的人工智能
深度学习:物联网大数据洞察中的人工智能
|
13天前
|
机器学习/深度学习 人工智能 算法
【车辆车型识别】Python+卷积神经网络算法+深度学习+人工智能+TensorFlow+算法模型
车辆车型识别,使用Python作为主要编程语言,通过收集多种车辆车型图像数据集,然后基于TensorFlow搭建卷积网络算法模型,并对数据集进行训练,最后得到一个识别精度较高的模型文件。再基于Django搭建web网页端操作界面,实现用户上传一张车辆图片识别其类型。
53 0
【车辆车型识别】Python+卷积神经网络算法+深度学习+人工智能+TensorFlow+算法模型
|
9天前
|
安全 搜索推荐 机器学习/深度学习
AI赋能教育:深度学习在个性化学习系统中的应用
【10月更文挑战第26天】在人工智能的推动下,个性化学习系统逐渐成为教育领域的重要趋势。深度学习作为AI的核心技术,在构建个性化学习系统中发挥关键作用。本文探讨了深度学习在个性化推荐系统、智能辅导系统和学习行为分析中的应用,并提供了代码示例,展示了如何使用Keras构建模型预测学生对课程的兴趣。尽管面临数据隐私和模型可解释性等挑战,深度学习仍有望为教育带来更个性化和高效的学习体验。
34 0
|
9天前
|
机器学习/深度学习 数据采集 人工智能
AI在医疗:深度学习在医学影像诊断中的最新进展
【10月更文挑战第26天】近年来,深度学习技术在医学影像诊断中的应用日益广泛,通过训练大量医学影像数据,实现对疾病的准确诊断。例如,卷积神经网络(CNN)已成功用于识别肺癌、乳腺癌等疾病。深度学习不仅提高了诊断准确性,还缩短了诊断时间,提升了患者体验。然而,数据隐私、数据共享和算法透明性等问题仍需解决。未来,AI将在医学影像诊断中发挥更大作用,成为医生的得力助手。
34 0
|
14天前
|
机器学习/深度学习 人工智能 自然语言处理
深度学习:解锁人工智能的无限潜能
本文深入探讨了深度学习这一革命性技术如何推动人工智能领域的发展。通过分析其基本原理、关键技术里程碑以及在多个行业中的应用案例,揭示了深度学习如何成为现代科技发展的核心驱动力。文章旨在为读者提供一个全面而深入的理解框架,展示深度学习不仅仅是一种技术趋势,更是未来创新与变革的关键所在。
|
17天前
|
机器学习/深度学习 数据采集 人工智能
数据驱动的AI技术:如何通过深度学习提升图像识别精度
【10月更文挑战第18天】 数据驱动的AI技术:如何通过深度学习提升图像识别精度
31 0

热门文章

最新文章

下一篇
无影云桌面