未来已来!阿里小蜜AI技术揭秘

本文涉及的产品
NLP自然语言处理_高级版,每接口累计50万次
NLP自然语言处理_基础版,每接口每天50万次
NLP 自学习平台,3个模型定制额度 1个月
简介:


1.双11的挑战与服务模式的转型

在全球人工智能领域不断发展的今天,包括Google、Facebook、Microsoft、Amazon、Apple等互联公司相继推出了自己的智能私人助理和机器人平台,智能人机交互成为各大公司在人工智能战场上激烈竞争的入口级领域。 智能人机交互通过拟人化的交互体验逐步在智能客服、任务助理、智能家居、智能硬件、互动聊天等领域发挥巨大的作用和价值。

在2015年7月,我们阿里也推出了自己的智能私人助理-阿里小蜜,一个围绕着电子商务领域中的服务、导购以及任务助理为核心的智能人机交互产品。通过电子商务领域与智能人机交互领域的结合,提升传统电商领域的能效,带来传统服务行业模式的变化与体验的提升。

1.1智能人机交互带来服务行业模式的变化
传统的服务行业是一个人力密集型的行业,就拿我们阿里巴巴双11狂欢节来说,无论是对于阿里直接对外的服务(消费者服务和商家服务)还是淘宝商家的服务都面临着当天服务量的巨大井喷,人力扩容成为每年阿里以及商家巨大的挑战。传统人力密集型服务模式(以自营客服、外包客服和云客服为主的服务模式)亟待被颠覆和改变,围绕着以阿里小蜜产品为核心,通过智能人机交互与人工服务相结合的模式才是未来真正的服务模式。机器通过智能化技术处理掉绝大部分的简单、重复等可识别处理的问题,对于解决不了的问题流向人工,让人提供更有温度也更加专业的服务。通过智能+人工相结合的模式探索,在今年的双11期间,阿里小蜜整体智能服务量达到643万,其中智能解决率达到95%,智能服务在整个服务量(总服务量=智能服务量+在线人工服务量+电话服务量)占比也达到95%,成为了双11期间服务的绝对主力。

image

1.2 智能人机交互带来服务体验的提升
在体验维度,由于机器的运算速度远超于人,因此智能人机交互可以带来提升:智能交互相比人工可以达到急速的秒级体验,而人的服务通常需要一定时间的回复等待。并且在互动领域,智能人机交互也带来了一种新的模式和新的玩法,带来更多价值。


2. 阿里小蜜及阿里小蜜平台介绍

阿里小蜜是电子商务领域的智能私人助理,基于阿里海量消费和商家数据,结合线上、线下的生活场景需求,以智能+人工的模式提供智能导购、服务、助理的拟人交互业务体验。
1.在跨终端、多场景领域支持多轮交互、多模交互(文本、语音和图像)和问题推荐预测;
2.支持多模型(文本模型、客户模型、语音识别和图像识别)识别客户意图;
3.支持多领域识别和路由分流;

阿里小蜜整体体系图如下:

image


通过1年多阿里小蜜在阿里业务体系内的不断尝试和摸索,今年在电子商务生态圈范围内,在基于千牛的买卖家生态圈、基于钉钉的企业生态圈上,我们将阿里小蜜进行平台化开放,同时赋能给我们商家和企业用户。未来我们期望通过不断的领域数据和技术模型的积累,能够在阿里其他生态圈(例如:阿里云)逐步进行开放,赋能更多电子商务生态圈领域。

阿里小蜜平台结构图如下:

image


阿里小蜜在各个领域系统示例截图:

image


3. 阿里小蜜技术实践

3.1 智能人机交互系统
智能人机交互系统,俗称:chatbot系统或者bot系统,我们核心需要做的事情是理解人类的语言意思,进而给予合理的答案或者Action。
人机交互基本流程如下:

image


其核心部分就是NLU(自然语言理解),通过对话系统处理后最后通过自然语言生成的方式给出答案。一段语言如何理解对于计算机来说是非常有难度的,例如:“苹果”这个词就具备至少两个含义,一个是水果属性的“苹果”,还有一个是知名互联网公司属性的“苹果”。因此在阿里小蜜这样在电子商务领域的场景中,我们先采用分领域分层分场景的方式进行架构抽象,然后再根据不同的分层和分场景采用不同的机器学习方法进行技术设计。首先我们将对话系统从分成两层:
1意图识别层:识别语言的真实意图,将意图进行分类并进行意图属性抽取。意图决定了后续的领域识别流程,因此意图层是一个结合上下文数据模型与领域数据模型不断对意图进行明确和推理的过程;
2问答匹配层:对问题进行匹配识别及生成答案的过程。在阿里小蜜的对话体系中我们按照业务场景进行了3种典型问题类型的划分,并且依据3种类型会采用不同的匹配流程和方法:
1.问答型:例如“密码忘记怎么办?”→ 采用基于知识图谱构建+检索模型匹配方式
2.任务型:例如“我想订一张明天从杭州到北京的机票”→ 意图决策+slots filling的匹配方式
3.语聊型:例如“我心情不好”→ 检索模型与Deep Learning相结合的方式

3.2 阿里小蜜意图识别的技术方案
通常在意图识别领域我们将其抽象成为机器学习中的分类问题来解决,在阿里小蜜的技术方案中除了传统的文本特征之外,考虑到本身在对话领域中存在语义意图不完整的情况,我们也加入了用实时、离线用户本身的行为及用户本身相关的特征,通过深度学习方案构建模型,对用户意图进行预测。如下图:

image


在基于深度学习的分类预测模型上,我们有两种具体的选型方案:一种是多分类模型,一种是二分类模型。多分类模型的优点是性能快,但是对于需要扩展分类领域是整个模型需要重新训练;而二分类模型的优点就是扩展领域场景时原来的模型都可以复用,可以平台进行扩展,缺点也很明显需要不断的进行二分,整体的性能上不如多分类好,因此在具体的场景和数据量上可以做不同的选型。整体的基本技术思路就是将行为因子与文本特征分别进行Embedding处理,通过向量叠加之后再进行多分类或者二分类处理。这里的文本特征维度可以选择通过传统的bag of words的方法,也可使用Deep Learning的方法进行向量化。具体如下图:

image


目前主流的智能匹配技术分为如下4种方法:
1 基于模板匹配(Rule-Based)
2.基于检索模型(Retrieval Model)
3.基于统计机器翻译模型(SMT)
4.基于深度学习模型(Deep Learning)

在阿里小蜜的技术场景下,我们采用了基于模板匹配,检索模型以及深度学习模型为基础的方法原型来进行分场景(问答型、任务型、语聊型)的会话系统构建。

问答型:基于知识图谱构建+检索模型匹配方式
特点:有领域知识的概念,且知识之间的关联性高,并且对精准度要求比较高
基于问答型场景的特点,我们在技术选型上采用了知识图谱构建+检索模型相结合的方式来进行核心匹配模型的设计。

知识图谱的构建我们会从两个角度来进行抽象,一个是实体维度的挖掘,一个是短句维度进行挖掘,通过在淘宝平台上积累的大量属于以及互联网数据,通过主题模型的方式进行挖掘、标注与清洗,再通过预设定好的关系进行实体之间关系的定义最终形成知识图谱。基本的挖掘框架流程如下:

image


挖掘构建的知识图谱示例如下:

image


基于知识图谱的匹配模式具备以下几个优点:
1 在对话结构和流程的设计中支持实体间的上下文会话识别与推理
2.通常在一般型问答的准确率相对比较高(当然具备推理型场景的需要特殊的设计,会有些复杂)

同样也有明显的缺点:
1.模型构建初期可能会存在数据的松散和覆盖率问题,导致匹配的覆盖率缺失;
2.对于知识图谱增量维护相比传统的QA Pair对知识的维护上的成本会更大一些;

因此我们在阿里小蜜的问答型设计中,还是融入了传统的基于检索模型的对话匹配。
其在线基本流程分为:
1.提问预处理:分词、指代消解、纠错等基本文本处理流程;
2.检索召回:通过检索的方式在候选数据中召回可能的匹配候选数据;
3.计算:通过Query结合上下文模型与候选数据进行计算,通过我们采用文本之间的距离计算方式(余弦相似度、编辑距离)以及分类模型相结合的方式进行计算;
4.最终根据返回的候选集打分阈值进行最终的产品流程设计。

离线流程分为:
1.知识数据的索引化;
2.离线文本模型的构建:例如Term-Weight计算等。

检索模型整体流程如下图:

image


任务型:意图决策+slots filling的匹配方式
特点:有领域知识的概念,每个任务负责独立的业务流程,任务之间相对互斥性强,精准度要求高。基于任务型的特点,在技术选型上,我们采用了意图决策+slot filling的方式进行会话匹配设计。首先按照任务领域进行本体知识的构建,例如机票的领域本体知识场景如下:

image


在问答匹配过程中结合上下文模型和领域数据模型不断在Query中进行slot属性的提取,并循环进行本体意图树的不断填充和修改,直到必选意图树填充完整后进行输出。如下图:

image


语聊型:检索模型与Deep Learning相结合的方式
特点:非面向目标,语义意图不明确,通常期待的是语义相关性和渐进性,对准确率要求相对较低。

面向open domain的聊天机器人目前无论在学术界还是在工业界都是一大难题,通常在目前这个阶段我们有两种方式来做对话设计:一种是学术界非常火爆的Deep Learning生成模型方式,通过Encoder-Decoder模型通过LSTM的方式进行Sequence to Sequence生成,如下图:

image


一种是Generation Model(生成模型):
1.优点:通过深层语义方式进行答案生成,答案不受语料库规模限制;
2.缺点:模型的可解释性不强,且难以保证一致性和合理性回答。

另外一种方式就是通过传统的检索模型的方式来构建语聊的问答匹配。
Retrieval Model(检索模型):
1.优点:答案在预设的语料库中,可控,匹配模型相对简单,可解释性强;
2.缺点:在一定程度上缺乏一些语义性,且有固定语料库的局限性。

因此在阿里小蜜的聊天引擎中,我们结合了两者各自的优势,将两个模型进行了融合形成了阿里小蜜聊天引擎的核心。先通过传统的检索模型检索出候选集数据,然后通过Seq2Seq Model对候选集进行Rerank,重排序后超过制定的阈值就进行输出,不到阈值就通过Seq2Seq Model进行答案生成,整体流程如下图:

image


4 智能交互未来的展望

目前的人工智能领域任然处在弱人工智能阶段,特别是从感知到认知领域需要提升的空间还非常大。智能人机交互在面向目标的领域已经可以与实际工业场景紧密结合并产生巨大价值,随着人工智能技术的不断发展,未来智能人机交互领域的发展还将会有不断的提升,对于未来技术的发展我们值得期待和展望:

1.数据的不断积累,以及领域知识图谱的不断完善与构建将不断助推智能人机交互的不断提升;
2.面向任务的垂直细分领域机器人的构建将是之后机器人不断爆发的增长点,open domain的互动机器人在未来一段时间还需要不断提升与摸索;
3.随着分布式计算能力的不断提升,深度学习在席卷了图像、语音等领域后,在NLP(自然语言处理)领域将会继续发展,在对话、QA领域的学术研究将会持续活跃;

在未来随着学术界和工业界的不断结合与积累,期待人工智能电影中的场景早日实现,人人都能拥有自己的智能“小蜜”。

原文链接

相关文章
|
4天前
|
机器学习/深度学习 人工智能 算法
AI技术在医疗领域的应用及挑战
【10月更文挑战第4天】本文将探讨AI技术在医疗领域的应用及其面临的挑战。我们将从AI技术的定义和发展历程入手,分析其在医疗领域的应用场景,包括辅助诊断、个性化治疗、药物研发等方面。同时,我们也将讨论AI技术在医疗领域面临的挑战,如数据隐私、算法偏见等问题。最后,我们将以一个简单的代码示例来展示AI技术在医疗领域的应用。
22 0
|
1天前
|
人工智能 JSON API
利用TTS技术让你的AI Agent发声
【10月更文挑战第5天】
19 4
利用TTS技术让你的AI Agent发声
|
2天前
|
人工智能 IDE 测试技术
利用AI技术提升编程效率
【10月更文挑战第6天】本文将探讨如何通过人工智能(AI)技术提升编程效率。我们将介绍一些实用的工具和策略,如代码补全、错误检测和自动化测试,以及如何将这些工具整合到你的日常工作流程中。无论你是初学者还是经验丰富的开发者,都可以从这些技巧中受益。让我们一起探索如何利用AI技术来简化编程过程,提高生产力吧!
|
4天前
|
人工智能 编解码 文字识别
阿里国际AI开源Ovis1.6,多项得分超GPT-4o-mini!
阿里国际AI团队提出了一种名为Ovis (Open VISion)的新型多模态大模型的架构。
|
3天前
|
机器学习/深度学习 人工智能 搜索推荐
智能CRM系统排名2024:AI技术如何提升客户管理
在数字化时代,人工智能(AI)技术正逐渐成为企业提升客户管理能力的关键因素。智能CRM系统通过集成AI技术,不仅能够自动化日常任务,还能提供深入的客户洞察,从而帮助企业实现更高效的销售和更个性化的客户服务。AI技术在CRM系统中的应用包括:24/7的自动化客户服务、客户行为分析、个性化推荐以及销售预测和管道管理。根据2024年市场表现和用户反馈,纷享销客、用友CRM、金蝶CRM、悟空CRM、普华基石CRM、珍客CRM、八百客CRM和销帮帮CRM等智能CRM系统表现出色。其中,纷享销客凭借先进的AI技术成为行业领导者。企业应积极探索AI与CRM的集成,实现客户管理的数字化转型。
|
4天前
|
机器学习/深度学习 人工智能 自然语言处理
AI技术在自然语言处理中的应用
【10月更文挑战第4天】本文将介绍人工智能(AI)在自然语言处理(NLP)领域的应用,包括语音识别、机器翻译、情感分析等方面。我们将通过一些实际案例展示AI如何帮助人们更好地理解和使用自然语言。同时,我们也会探讨AI在NLP领域面临的挑战和未来发展方向。
|
4天前
|
机器学习/深度学习 人工智能 算法
利用AI技术优化网络安全
【10月更文挑战第4天】随着人工智能(AI)的飞速发展,其在网络安全领域的应用也日益广泛。本文将探讨如何利用AI技术提升网络安全防护能力,包括机器学习、深度学习等方法在识别和防御网络攻击方面的应用。同时,文章还将分析AI技术在网络安全领域面临的挑战和未来发展趋势。
|
机器学习/深度学习 人工智能 自然语言处理
【天池大学堂】你想要的AI技术干货、课程已限时免费开放!还有助教带你0基础打比赛!
天池大学堂专题火热上线啦,首次免费开放的天池官方人工智能基础课程及实操代码、全新的零基础入门数据挖掘学习赛、阿里技术线2020超全内推信息合集…… 你想要的干货都在这!更有丰富的礼品激励等你来瓜分!
1222 0
【天池大学堂】你想要的AI技术干货、课程已限时免费开放!还有助教带你0基础打比赛!
|
5天前
|
机器学习/深度学习 人工智能 自然语言处理
AI技术在自然语言处理中的应用与挑战
【10月更文挑战第3天】本文将探讨AI技术在自然语言处理(NLP)领域的应用及其面临的挑战。我们将分析NLP的基本原理,介绍AI技术如何推动NLP的发展,并讨论当前的挑战和未来的趋势。通过本文,读者将了解AI技术在NLP中的重要性,以及如何利用这些技术解决实际问题。
|
6天前
|
人工智能 监控 供应链
AI技术创业有哪些机会?
本文探讨了AI技术创业的多个机会,包括提供行业解决方案、开发智能产品和服务以及教育和培训,为创业者在医疗保健、金融服务、零售、教育等多个领域提供了丰富的机遇。
23 2