自然语言处理 Paddle NLP - 任务式对话系统-理论

本文涉及的产品
NLP自然语言处理_高级版,每接口累计50万次
NLP自然语言处理_基础版,每接口每天50万次
NLP 自学习平台,3个模型定制额度 1个月
简介: 自然语言处理 Paddle NLP - 任务式对话系统-理论

什么是任务型对话:

  • 任务型:用于帮助用户完成某领域的特定任务,例如订餐、查天气、订票等
  • 闲聊型:也称作开放域对话系统,目标是让用户持续的参与到交互过程,提供情感陪伴
  • 问答型:提供知识满足,具体类型比较多,如图谱问答、表格问答、文档问答等








    Pipeline型任务型对话系统

    什么是NLU?
    NLU(自然语言理解):是指将用户表述映射为结构化的语义表示,典型的结构化语义表示是意图+词槽的形式。
    意图:是指对话中用户想要表达的目的,比如订票,查天气等
    词槽:是指用户表述中,与任务相关的核心语义元素
    意图分类+词槽识别==>文本分类+序列标注





    什么是DST?
    DS(对话状态):是指将t时刻的对话表示为可供系统选择下一时刻动作信息的抽象信息(数据结构),典型而言就是每个槽值的取值分布情况(BelifState)。
    DST:对DS进行追踪,当前大多数工作采用BelifState



    Pipeline型任务式对话系统中的Policy

    对话策略是指根据DST估计的对话状态,通过预设的候选动作集,选择系统动作的过程。

    Policy中的典型方法
    典型方式:
  • 在离线阶段,通过监督学习或模拟学习在语料上进行学习
  • 在线阶段,通过强化学习的方式,与真实用户交互过程中学习

    用户模拟器在DPL中的应用
    定义:用户模拟器是另一套对话系统,其动作行为与真实用户类似,用来提供进行训练或评估的环境
    缺点:用户模拟器并不能完全模拟真实用户的对话习惯,它本身行为的有偏可能会导致学习到的是不是最优模型,从而在与真实用户交互时表现较差。

    Pipeline型任务式对话系统中的NLG

    什么是NLG?定义:自然语言生成的主要任务是将对话管理模块输出的抽象表达转换为句法合法、语义准确的自然语言句子,一般被视为一个条件语言生成任务。
    评估标准:
  • 人为标准:是否自然、是否多样,是否完整传达了语义、是否流畅,可读性是否好等
  • 机器指标:BLEU、perplexity、ROUGE、METEOR等

虽然有多种机器评估指标,但实际上依然缺乏一种能够贴近人为感知的评估标准

端到端任务型对话系统

什么是端到端任务型对话系统?

  • 端到端任务型对话系统是受开放域对话领域的进步启发,使用模型以端到端的方式而不是分模块优化的方式构建任务型对话系统。
  • 虽然大多数端到端任务型对话系统采用了Seq2Seq框架,但端到端任务型对话系统≠Seq2Seq模型


    端到端任务型对话系统--示例

工业界的任务型对话系统

UNIT任务式对话技术发展

UNIT--面向小样本的意图识别

UNIT--TaskFlow:可编程对话流管理框架

UNIT网站:https://ai.baidu.com/unit/home

目录
相关文章
|
22天前
|
自然语言处理 算法 Python
自然语言处理(NLP)在文本分析中的应用:从「被动收集」到「主动分析」
【10月更文挑战第9天】自然语言处理(NLP)在文本分析中的应用:从「被动收集」到「主动分析」
38 4
|
13天前
|
数据采集 自然语言处理 机器人
如何使用生成器来提高自然语言处理任务的性能?
如何使用生成器来提高自然语言处理任务的性能?
|
10天前
|
机器学习/深度学习 存储 人工智能
大数据中自然语言处理 (NLP)
【10月更文挑战第19天】
96 60
|
8天前
|
人工智能 自然语言处理 语音技术
利用Python进行自然语言处理(NLP)
利用Python进行自然语言处理(NLP)
22 1
|
19天前
|
人工智能 自然语言处理 语音技术
利用Python进行自然语言处理(NLP)
利用Python进行自然语言处理(NLP)
26 3
|
24天前
|
机器学习/深度学习 存储 自然语言处理
从理论到实践:如何使用长短期记忆网络(LSTM)改善自然语言处理任务
【10月更文挑战第7天】随着深度学习技术的发展,循环神经网络(RNNs)及其变体,特别是长短期记忆网络(LSTMs),已经成为处理序列数据的强大工具。在自然语言处理(NLP)领域,LSTM因其能够捕捉文本中的长期依赖关系而变得尤为重要。本文将介绍LSTM的基本原理,并通过具体的代码示例来展示如何在实际的NLP任务中应用LSTM。
52 4
|
27天前
|
机器学习/深度学习 存储 自然语言处理
【NLP自然语言处理】探索注意力机制:解锁深度学习的语言理解新篇章(下)
【NLP自然语言处理】探索注意力机制:解锁深度学习的语言理解新篇章(下)
【NLP自然语言处理】探索注意力机制:解锁深度学习的语言理解新篇章(下)
|
28天前
|
机器学习/深度学习 人工智能 自然语言处理
AI技术在自然语言处理中的应用与挑战
【10月更文挑战第3天】本文将探讨AI技术在自然语言处理(NLP)领域的应用及其面临的挑战。我们将分析NLP的基本原理,介绍AI技术如何推动NLP的发展,并讨论当前的挑战和未来的趋势。通过本文,读者将了解AI技术在NLP中的重要性,以及如何利用这些技术解决实际问题。
|
2月前
|
机器学习/深度学习 数据采集 自然语言处理
深度学习在自然语言处理中的应用与挑战
本文探讨了深度学习技术在自然语言处理(NLP)领域的应用,包括机器翻译、情感分析和文本生成等方面。同时,讨论了数据质量、模型复杂性和伦理问题等挑战,并提出了未来的研究方向和解决方案。通过综合分析,本文旨在为NLP领域的研究人员和从业者提供有价值的参考。
|
24天前
|
机器学习/深度学习 人工智能 自然语言处理
探索AI在自然语言处理中的创新应用
【10月更文挑战第7天】本文将深入探讨人工智能在自然语言处理领域的最新进展,揭示AI技术如何改变我们与机器的互动方式,并展示通过实际代码示例实现的具体应用。
32 1

热门文章

最新文章