开发者社区 > ModelScope模型即服务 > 正文

ModelScope中,推理时输入“11111”,结果应该返回“22222”吧?

"用swift基于lora训练了自己的数据集,用训练微调后模型做推理,但推理结果怎么不符合预期呀,比如自定义训练集里有
system,query,response
00000,11111,22222
00001,aaaaa,bbbbb
00002,AAAAA,BBBBB
ModelScope中,推理时输入“11111”,结果应该返回“22222”吧?"

展开
收起
小小爱吃香菜 2024-07-24 08:30:25 21 0
2 条回答
写回答
取消 提交回答
  • 对。此回答整理自钉群“魔搭ModelScope开发者联盟群 ①”

    2024-07-24 16:25:23
    赞同 展开评论 打赏
  • 根据您的描述可能存在以下几种情况导致推理结果不符合预期:

    模型不匹配:确保您使用的是训练后微调的模型,而不是原始的LoRA模型。
    输入格式问题:检查推理时的输入“11111”是否与训练集中的query字段格式一致。
    模型泛化能力:微调后的模型可能在新数据上的表现不如预期,需要检查训练数据的多样性和质量。
    推理设置:确认推理设置是否正确,比如模型版本、环境变量等。
    常见问题

    2024-07-24 10:05:08
    赞同 3 展开评论 打赏

ModelScope旨在打造下一代开源的模型即服务共享平台,为泛AI开发者提供灵活、易用、低成本的一站式模型服务产品,让模型应用更简单!欢迎加入技术交流群:微信公众号:魔搭ModelScope社区,钉钉群号:44837352

相关电子书

更多
视觉AI能力的开放现状及ModelScope实战 立即下载
ModelScope助力语音AI模型创新与应用 立即下载
低代码开发师(初级)实战教程 立即下载