想问一下modelscope验证集可以自己添加一个路径他就能在训练的时候用到吗?因为它原本是没有验证集这个路径的 是infer.sh和sft.sh这两个版本吗?有在模型后面➕全连接层做分类的吗?可以给一个具体的路径吗?另外,如果使用官网的finetune_lora_single_gpu.sh微调方法,是在qwen模型的class QWenAttention(nn.Module):这个类中加全连接层吗?
"请参考此链接: https://github.com/modelscope/swift/tree/main/examples/pytorch/llm/scripts
sft.sh是微调用的,infer.sh推理用 docs下有文档,里面有微调和推理。文本分类的模型一般相对较小,您在modelscope模型库中点文本分类可以看到 ,请参考此链接: https://modelscope.cn/docs/%E6%96%87%E6%9C%AC%E5%88%86%E7%B1%BB%E4%BB%BB%E5%8A%A1您用了这个脚本微调https://github.com/QwenLM/Qwen/blob/main/finetune/finetune_lora_single_gpu.sh 。qwen微调用刚才发您的swift比较方便,--lora_target_modules可以配置,也有详细的文档说明。 此回答整理自钉群“魔搭ModelScope开发者联盟群 ①” "