带你读《2022技术人的百宝黑皮书》——国际顶会OSDI首度收录淘宝系统论文， 端云协同智能获大会主旨演讲推荐（3） https://developer.aliyun.com/article/1242669?groupCode=taobaotech
在电商推荐场景中，商品页面浏览（Item Page-View, IPV）特征主要记录了用户在某个特定商品的详情页上的行为（例如收藏、加购物车、购买下单等），该特征对于推荐模型起着十分重要的作用。云侧原有的 IPV 特征生产链路，产出一条特征的平均延迟为33.73 秒，同时消耗了大量的计算、通信、存储资源，并存在0.7%的错误率。相比之下，Walle全新的数据管道可以在端侧完成IPV特征生产过程，平均端侧延迟仅为44.16毫秒，同时削减了超过90%的数据量，并保证了特征的正确性。这些结果表明：相较于主流基于云的数据管道，Walle新数据管道大幅提升了特征生产和消费的时效性、高效性和正确性。
为了测试Walle部署平台的时效性和规模化，随机挑选了一个线上的机器学习任务，并监控了其部署到目标设备群体的整个流程。在保证任务稳定性的前提下，Walle部署平台成功覆盖在线的700万移动端设备需要7分钟，而覆盖所有的2200万设备需要22分钟。
核心模块的Benchmark测试结果
图6: MNN vs. TensorFlow (Lite), PyTorch (Mobile)
带你读《2022技术人的百宝黑皮书》——国际顶会OSDI首度收录淘宝系统论文， 端云协同智能获大会主旨演讲推荐（5） https://developer.aliyun.com/article/1242663?groupCode=taobaotech
