淘宝粗排问题之引入未曝光样本和随机负样本对粗排模型有何影响,如何解决

简介: 淘宝粗排问题之引入未曝光样本和随机负样本对粗排模型有何影响,如何解决

问题一:淘宝主搜索的多阶段检索系统主要包括哪些阶段?粗排阶段与精排阶段的主要差异是什么?


淘宝主搜索的多阶段检索系统主要包括哪些阶段?粗排阶段与精排阶段的主要差异是什么?


参考回答:

淘宝主搜索的多阶段检索系统主要包括召回、粗排、精排等阶段。召回阶段由文本召回、个性化等多路召回构成,粗排阶段从多路召回集合中筛选,精排阶段再进行筛选输出最终给用户的曝光商品。

粗排阶段与精排阶段的主要差异在于目标不同。粗排注重从海量候选集中选出优质的子集,而精排则更注重头部商品的排序。因此,尽管两者都是排序,但优化的方向和目标存在显著差异。


关于本问题的更多回答可点击原文查看:

https://developer.aliyun.com/ask/654784



问题二:为什么只提高NDCG而不增加负采样会让粗排效果更差?


为什么只提高NDCG而不增加负采样会让粗排效果更差?


参考回答:

只提高NDCG而不增加负采样会让粗排效果更差,是因为NDCG这个指标本身与粗排实际的优化方向存在很大偏差。粗排最要解决的是如何从召回集合中选出优质的子集,而NDCG无法衡量召回-粗排的损失,也无法衡量粗排负采样的好坏。因此,盲目提高NDCG并不一定能提升粗排的实际效果。


关于本问题的更多回答可点击原文查看:

https://developer.aliyun.com/ask/654785



问题三:今年引入的“全域成交hitrate”作为粗排评价标准有什么作用?


今年引入的“全域成交hitrate”作为粗排评价标准有什么作用?


参考回答:

今年引入的“全域成交hitrate”作为粗排评价标准,可以帮助我们更准确地衡量召回-粗排的损失,从而更有效地评估粗排负采样的好坏。通过这一指标,我们可以对从召回->粗排->精排的全域成交漏斗损失进行系统的分析,进而规范与统一各个阶段的优化空间和优化目标。


关于本问题的更多回答可点击原文查看:

https://developer.aliyun.com/ask/654786



问题四:引入未曝光样本和随机负样本对粗排模型有何影响?


引入未曝光样本和随机负样本对粗排模型有何影响?


参考回答:

引入未曝光样本和随机负样本这两部分负样本的扩充共带来约5.5 pt的场景外的hitrate的提升,这有助于模型更好地拟合粗排阶段的打分空间。


关于本问题的更多回答可点击原文查看:

https://developer.aliyun.com/ask/654787



问题五:在粗排模型中,蒸馏任务的作用是什么?


在粗排模型中,蒸馏任务的作用是什么?


参考回答:

在粗排模型中,蒸馏任务的作用是进一步提高模型与精排模型的一致性。具体做法是在曝光样本上让粗排模型学习精排模型的打分分数,从而使粗排模型能够学习到精排模型的排序逻辑。


关于本问题的更多回答可点击原文查看:

https://developer.aliyun.com/ask/654788

相关文章
|
机器学习/深度学习 人工智能 自然语言处理
一文搞懂【知识蒸馏】【Knowledge Distillation】算法原理
一文搞懂【知识蒸馏】【Knowledge Distillation】算法原理
一文搞懂【知识蒸馏】【Knowledge Distillation】算法原理
|
机器学习/深度学习 搜索推荐 算法
【王喆-推荐系统】模型篇-(task5)wide&deep模型
Wide&Deep是工业界中有巨大影响力的模型,如果直接翻译成中文是宽和深的模型,其模型结构如下所示:wide和deep让模型兼具逻辑回归和深度神经网络的特点。
2123 0
【王喆-推荐系统】模型篇-(task5)wide&deep模型
|
搜索推荐 测试技术
淘宝粗排问题之在粗排模型中引入交叉特征如何解决
淘宝粗排问题之在粗排模型中引入交叉特征如何解决
|
搜索推荐
召回和粗排负样本构造问题
召回和粗排负样本构造问题
496 0
|
搜索推荐 测试技术 流计算
承上启下:基于全域漏斗分析的主搜深度统一粗排
文章首先介绍了淘宝搜索的多阶段检索系统,包括召回、粗排和精排阶段。粗排模型的目标是优化商品的排序,以提高在召回集合中选择优质商品的能力。文章提到,粗排模型与精排模型的目标有所不同,粗排更注重腰部商品的排序,而精排更注重头部商品的排序。 此外,文章还探讨了模型的损失函数形式,发现原始的softmax损失函数在处理多正样本时存在问题,提出了改进的损失函数,使得模型在粗排阶段的表现更佳。最后,作者们总结了优化工作的进展,以及优化样本对齐,以实现更好的整体效果。
|
机器学习/深度学习 自然语言处理 搜索推荐
承上启下:基于全域漏斗分析的主搜深度统一粗排
两阶段排序(粗排-精排)一开始是因系统性能问题提出的排序框架,因此长期以来粗排的定位一直是精排的退化版本,业内的粗排的优化方向也是持续逼近精排。我们提出以全域成交的hitrate为目标的全新指标,重新审视了召回、粗排和精排的关系,指出了全新的优化方向
94264 3
淘宝粗排问题之对粗排阶段打分集合归因到对应的场景内和场景外成交如何解决
淘宝粗排问题之对粗排阶段打分集合归因到对应的场景内和场景外成交如何解决
|
机器学习/深度学习 监控 搜索推荐
深度粗排模型的GMV优化实践:基于全空间-子空间联合建模的蒸馏校准模型
随着业务的不断发展,粗排模型在整个系统链路中变得越来越重要,能够显著提升线上效果。本文是对粗排模型优化的阶段性总结。
2106 0
深度粗排模型的GMV优化实践:基于全空间-子空间联合建模的蒸馏校准模型
|
机器学习/深度学习 资源调度 算法
推荐系统[四]:精排-详解排序算法LTR (Learning to Rank)_ poitwise, pairwise, listwise相关评价指标,超详细知识指南。
推荐系统[四]:精排-详解排序算法LTR (Learning to Rank)_ poitwise, pairwise, listwise相关评价指标,超详细知识指南。
推荐系统[四]:精排-详解排序算法LTR (Learning to Rank)_ poitwise, pairwise, listwise相关评价指标,超详细知识指南。