自然语言处理 Paddle NLP - 任务式对话系统-理论

自然语言,处理,paddle,nlp,任务,对话,系统,理论 · 浏览次数 : 360

小编点评

**基础自然语言处理(NLP)自然语言处理PaddleNLP-词向量应用** **什么是词向量?** 词向量是将词映射到向量的工具,每个向量表示词的语义特征。 **PaddleNLP-词向量应用** PaddleNLP提供了一个词向量工具包,可以用于生成词向量和计算词向量相似度。 **自然语言处理(NLP)PaddleNLP-文本语义相似度计算(ERNIE-Gram)** ERNIE-Gram是一种用于文本语义相似度的模型,它基于预训练的词向量和语言模型。 **自然语言处理(NLP)PaddleNLP-词法分析技术及其应用** 词法分析是指将词分解成其基本成分,如单词、语法类和语义类。 **自然语言处理(NLP)PaddleNLP-快递单信息抽取理解自然语言处理PaddleNLP-信息抽取技术及应用** 快递单信息抽取是指将快递单文本转换为与订单相关的义义信息。 **自然语言处理(NLP)PaddleNLP-基于预训练模型完成实体关系抽取--实践自然语言处理PaddleNLP-情感分析技术及应用** 实体关系抽取是指将句子中所有实体进行标注,并建立它们之间的关系。 **自然语言处理(NLP)PaddleNLP-机器同传技术及应用** 机器同传是指将一对句子之间的语义相似度与之之间的语法相似度相比较,以便在机器翻译中使用它们。 **自然语言处理(NLP)PaddleNLP-结构化数据问答-理论自然语言处理PaddleNLP-信息抽取技术及应用** 结构化数据问答是指将问题与答案的结构化形式映射到问答系统中,以便机器能够理解问题并生成答案。 **自然语言处理(NLP)PaddleNLP-基于预训练模型完成实体关系抽取--实践自然语言处理PaddleNLP-情感分析技术及应用-理论** 基于预训练模型完成实体关系抽取是指使用预训练的模型来进行实体关系抽取,并将其应用于情感分析。 **自然语言处理(NLP)PaddleNLP-情感分析技术及应用** 情感分析是指识别文本中的情感倾向,并将其分类为积极、消极或中性。 **自然语言处理(NLP)PaddleNLP-任务式对话系统-理论自然语言处理PaddleNLP-开放域对话系统-理论产业实践自然语言处理 Paddle NLP - 预训练模型产业实践课-理论什么是任务型对话?:** 任务型对话是指用于帮助用户完成某领域的特定任务,例如订餐、查天气、订票等闲聊型:也称作开放域对话系统,目标是让用户持续的参与到交互过程,提供情感陪伴问答型:提供知识满足,具体类型比较多,如图谱问答、表格问答、文档问答等

正文

基础
自然语言处理(NLP)
自然语言处理PaddleNLP-词向量应用展示
自然语言处理(NLP)-前预训练时代的自监督学习
自然语言处理PaddleNLP-预训练语言模型及应用
自然语言处理PaddleNLP-文本语义相似度计算(ERNIE-Gram)
自然语言处理PaddleNLP-词法分析技术及其应用
自然语言处理PaddleNLP-快递单信息抽取
理解
自然语言处理PaddleNLP-信息抽取技术及应用
自然语言处理PaddleNLP-基于预训练模型完成实体关系抽取--实践
自然语言处理PaddleNLP-情感分析技术及应用-理论
自然语言处理PaddleNLP-情感分析技术及应用SKEP-实践
问答
自然语言处理PaddleNLP-检索式文本问答-理论
自然语言处理PaddleNLP-结构化数据问答-理论
翻译
自然语言处理PaddleNLP-文本翻译技术及应用-理论
自然语言处理PaddleNLP-机器同传技术及应用-理论
对话
自然语言处理PaddleNLP-任务式对话系统-理论
自然语言处理PaddleNLP-开放域对话系统-理论
产业实践
自然语言处理 Paddle NLP - 预训练模型产业实践课-理论
什么是任务型对话:

  • 任务型:用于帮助用户完成某领域的特定任务,例如订餐、查天气、订票等
  • 闲聊型:也称作开放域对话系统,目标是让用户持续的参与到交互过程,提供情感陪伴
  • 问答型:提供知识满足,具体类型比较多,如图谱问答、表格问答、文档问答等
    image
    image
    image
    image
    image
    image
    image
    image
    Pipeline型任务型对话系统
    image
    什么是NLU?
    NLU(自然语言理解):是指将用户表述映射为结构化的语义表示,典型的结构化语义表示是意图+词槽的形式。
    意图:是指对话中用户想要表达的目的,比如订票,查天气等
    词槽:是指用户表述中,与任务相关的核心语义元素
    意图分类+词槽识别==>文本分类+序列标注
    image
    image
    image
    image
    image
    什么是DST?
    DS(对话状态):是指将t时刻的对话表示为可供系统选择下一时刻动作信息的抽象信息(数据结构),典型而言就是每个槽值的取值分布情况(BelifState)。
    DST:对DS进行追踪,当前大多数工作采用BelifState
    image
    image
    image
    Pipeline型任务式对话系统中的Policy
    image
    对话策略是指根据DST估计的对话状态,通过预设的候选动作集,选择系统动作的过程。
    image
    Policy中的典型方法
    典型方式:
  • 在离线阶段,通过监督学习或模拟学习在语料上进行学习
  • 在线阶段,通过强化学习的方式,与真实用户交互过程中学习
    image
    用户模拟器在DPL中的应用
    定义:用户模拟器是另一套对话系统,其动作行为与真实用户类似,用来提供进行训练或评估的环境
    缺点:用户模拟器并不能完全模拟真实用户的对话习惯,它本身行为的有偏可能会导致学习到的是不是最优模型,从而在与真实用户交互时表现较差。
    image
    Pipeline型任务式对话系统中的NLG
    image
    什么是NLG?定义:自然语言生成的主要任务是将对话管理模块输出的抽象表达转换为句法合法、语义准确的自然语言句子,一般被视为一个条件语言生成任务。
    评估标准:
  • 人为标准:是否自然、是否多样,是否完整传达了语义、是否流畅,可读性是否好等
  • 机器指标:BLEU、perplexity、ROUGE、METEOR等

虽然有多种机器评估指标,但实际上依然缺乏一种能够贴近人为感知的评估标准
image

端到端任务型对话系统

什么是端到端任务型对话系统?

  • 端到端任务型对话系统是受开放域对话领域的进步启发,使用模型以端到端的方式而不是分模块优化的方式构建任务型对话系统。
  • 虽然大多数端到端任务型对话系统采用了Seq2Seq框架,但端到端任务型对话系统≠Seq2Seq模型
    image
    image
    端到端任务型对话系统--示例
    image

工业界的任务型对话系统

image
UNIT任务式对话技术发展
image
UNIT--面向小样本的意图识别
image
UNIT--TaskFlow:可编程对话流管理框架
UNIT网站:https://ai.baidu.com/unit/home
image
image

与自然语言处理 Paddle NLP - 任务式对话系统-理论相似的内容:

自然语言处理 Paddle NLP - 任务式对话系统-理论

基础 [自然语言处理(NLP)](https://www.cnblogs.com/vipsoft/p/17450994.html) [自然语言处理PaddleNLP-词向量应用展示](https://www.cnblogs.com/vipsoft/p/17451860.html) [自然语言处理(N

自然语言处理 Paddle NLP - 词向量应用展示

基础 [自然语言处理(NLP)](https://www.cnblogs.com/vipsoft/p/17450994.html) [自然语言处理PaddleNLP-词向量应用展示](https://www.cnblogs.com/vipsoft/p/17451860.html) [自然语言处理(N

自然语言处理 Paddle NLP - 预训练语言模型及应用

基础 [自然语言处理(NLP)](https://www.cnblogs.com/vipsoft/p/17450994.html) [自然语言处理PaddleNLP-词向量应用展示](https://www.cnblogs.com/vipsoft/p/17451860.html) [自然语言处理(N

自然语言处理 Paddle NLP - 文本语义相似度计算(ERNIE-Gram)

基础 [自然语言处理(NLP)](https://www.cnblogs.com/vipsoft/p/17450994.html) [自然语言处理PaddleNLP-词向量应用展示](https://www.cnblogs.com/vipsoft/p/17451860.html) [自然语言处理(N

自然语言处理 Paddle NLP - 词法分析技术及其应用

基础 [自然语言处理(NLP)](https://www.cnblogs.com/vipsoft/p/17450994.html) [自然语言处理PaddleNLP-词向量应用展示](https://www.cnblogs.com/vipsoft/p/17451860.html) [自然语言处理(N

自然语言处理 Paddle NLP - 快递单信息抽取 (ERNIE 1.0)

基础 [自然语言处理(NLP)](https://www.cnblogs.com/vipsoft/p/17450994.html) [自然语言处理PaddleNLP-词向量应用展示](https://www.cnblogs.com/vipsoft/p/17451860.html) [自然语言处理(N

自然语言处理 Paddle NLP - 信息抽取技术及应用

基础 [自然语言处理(NLP)](https://www.cnblogs.com/vipsoft/p/17450994.html) [自然语言处理PaddleNLP-词向量应用展示](https://www.cnblogs.com/vipsoft/p/17451860.html) [自然语言处理(N

自然语言处理 Paddle NLP - 情感分析技术及应用-理论

对带有感情色彩的主观性文本进行 分析、处理、归纳和推理的过程,输入文本 => (描述实体/entity,属性/aspect,情感/opinion ,观点持有者/holder,时间/time)

自然语言处理 Paddle NLP - 基于预训练模型完成实体关系抽取

基础 [自然语言处理(NLP)](https://www.cnblogs.com/vipsoft/p/17450994.html) [自然语言处理PaddleNLP-词向量应用展示](https://www.cnblogs.com/vipsoft/p/17451860.html) [自然语言处理(N

自然语言处理 Paddle NLP - 情感分析技术及应用SKEP-实践

基础 [自然语言处理(NLP)](https://www.cnblogs.com/vipsoft/p/17450994.html) [自然语言处理PaddleNLP-词向量应用展示](https://www.cnblogs.com/vipsoft/p/17451860.html) [自然语言处理(N