开发者社区> 问答> 正文

为了高效的利用知识,在基于“Sentence-正向SPO-负向SPO”对齐语料设计了哪些任务?

为了高效的利用知识,在基于“Sentence-正向SPO-负向SPO”对齐语料设计了哪些任务?

展开
收起
游客tbwjb5xynyh2u 2022-05-08 18:06:51 331 0
来自:阿里技术
1 条回答
写回答
取消 提交回答
  • 1、Mention Detection:增强模型对核心实体Mention的理解; Sentence-SPO joint Mask:2、将大规模文本数据及其对应的SPO知识同时输入到预训练模型中进行预联合训练,促进结构化知识和无结构文本之间的信息共享,提升模型语义理解能力; 3、SPO Margin Magnify:设计对比学习的预训练任务,拉开Sentence相关SPO与无关SPO语义间隔,使其具备更强的语义区分能力。

    2022-05-08 18:58:41
    赞同 展开评论 打赏
问答分类:
问答地址:
来源圈子
更多
收录在圈子:
+ 订阅
问答排行榜
最热
最新

相关电子书

更多
《Proxima:多模态向量检索引擎》 立即下载
展心展力MetaApp:基于DeepRec的稀疏模型训练实践 立即下载
《搜索NLP行业模型和轻量化客户定制》 立即下载