您好,我看您的 train.py 文件中没有加入 MegatronHook,需要有这个 hook 才能正常保存 checkpoint~可以参考 https://modelscope.cn/models/damo/nlp_gpt3_text-generation_1.3B/summary model card 中的训练代码示例
ModelScope旨在打造下一代开源的模型即服务共享平台,为泛AI开发者提供灵活、易用、低成本的一站式模型服务产品,让模型应用更简单!欢迎加入技术交流群:微信公众号:魔搭ModelScope社区,钉钉群号:44837352