在tf serving时，请求的结果保持一致，是修改rank model里的get output吗
在tf serving时，请求的结果保持一致，是修改rank model里的get output吗
写回答
-
公众号：网络技术联盟站，InfoQ签约作者，阿里云社区签约作者，华为云 云享专家，BOSS直聘 创作王者，腾讯课堂创作领航员，博客+论坛：https://www.wljslmz.cn，工程师导航：https://www.wljslmz.com在TensorFlow Serving中保持请求结果的一致性需要对模型的输出进行管理和控制。
2023-04-24 08:01:40赞同 展开评论 打赏 -
存在即是合理在 TensorFlow Serving 中保持请求结果一致，需要在模型训练和模型导出时采用一些特定的技巧。修改 rank model 的 get output 方法可能不是实现此目标的最佳方式。
TensorFlow Serving 中保持请求结果一致参考：
1、在训练模型时，尽量避免使用随机性操作（如随机种子、dropout等），或者在训练时将它们的随机性设置为确定性。
2、在导出模型时，确保使用相同的 TensorFlow 版本和环境，以确保导出的模型与训练时使用的 TensorFlow 版本和环境相同。
3、在导出模型时，确保使用相同的模型配置和超参数。
4、在 TensorFlow Serving 中，可以使用版本控制来管理模型的不同版本，并确保在部署时选择相同的版本。这可以避免不同版本之间的结果差异。
5、在 TensorFlow Serving 中，还可以通过使用 --model_config_file 标志来显式指定每个模型的名称和版本号。这可以确保在请求特定版本的模型时，始终使用相同的模型。
保持 TensorFlow Serving 中请求结果一致的最佳方式是在训练和导出模型时采用一些特定的技巧，而不是修改 rank model 的 get output 方法。
2023-04-07 14:57:27赞同 展开评论 打赏
版权声明：本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。
人工智能平台 PAI（Platform for AI，原机器学习平台PAI）是面向开发者和企业的机器学习/深度学习工程平台，提供包含数据标注、模型构建、模型训练、模型部署、推理优化在内的AI开发全链路服务，内置140+种优化算法，具备丰富的行业场景插件，为用户提供低门槛、高性能的云原生AI工程化能力。
