使用PALM-v2进行文本摘要训练完以后，使用训练的模型再进行预测，结果为空。
from modelscope.pipelines import pipeline
from modelscope.utils.constant import Tasks
from modelscope.outputs import OutputKeys
from modelscope.models.base import Model
input = ['昨天起，上海地铁3号线长江南路站、殷高西路站、江湾镇站三站进一步限流。体验发现，高峰时段排队5分钟能进站；不少乘客选择提前起床，“现在提前10到20分钟起床，即便限流也不会影响上班”。被限流的XDJMS，你们提前多久？新民网']
使用下面这句可以正常进行预测
'''text_summary = pipeline(Tasks.text_generation, model='/root/.cache/modelscope/hub/damo/nlp_palm2.0_pretrained_chinese-base/')'''
text_summary = pipeline(Tasks.text_generation, model='./modelscope/checkpoint/output')
result = text_summary(input)
输出结果：
[{'text': ''}]
写回答
-
我也遇到了同样的问题，微调后再加载模型，使用pipeline进行推断，结果为空，请问您解决了吗？如果解决了，能分享一下解决方法吗？
2023-02-05 13:36:47赞同 展开评论 打赏 -
遇到了同样的问题，finetune之后输出结果为空，调整了学习率也不成功，config里设置的学习率1e-3是否过大？
2022-12-19 15:50:19赞同 展开评论 打赏 -
您好，这边的操作是正确的，是load output这个最好的checkpoint。请问您这边训练的log有截图吗，还有数据量以及训练的参数设置可以发下不，我们之前测试训练15～20轮后，rouge值会有不断的提升
2022-12-14 11:30:34赞同 展开评论 打赏
