ModelScope中分词模型输入128个字符会报错请问这里是限制字符长度有问题还是模型内问题？
ModelScope中分词模型输入128个字符会报错，无论是网页上还是本地运行都会，请问这里是限制字符长度有问题还是模型内tensor问题？
展开
收起
1
条回答
写回答
写回答
-
BERT分词模型默认的tokenizer长度是128，分词输入的时候前后添加一个特殊字符的padding, 所以默认能支持的最大长度是128-2=126；长度需要增加的话可以在modelScope的代码里面修改，参考: https://github.com/modelscope/modelscope/blob/master/modelscope/preprocessors/nlp/token_classification_preprocessor.py#L223，但是最长不能超多BERT输入的最大长度512。此答案整理自钉钉群“魔搭ModelScope开发者联盟群 ①”
2022-12-26 20:54:22赞同 展开评论 打赏
问答分类：
版权声明：本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。
相关问答
来源圈子
更多
收录在圈子:
+ 订阅
技术图谱：由专家组参与技术图谱的绘制与编写，知识与实践的结合让开发者们掌握学习路线与逻辑，快速提升技能
电子书：电子书由阿里内外专家打造，供开发者们下载学习，更与课程相结合，使用户更易理解掌握课程内容
训练营：学习训练营 深入浅出，专家授课，带领开发者们快速上云
精品课程：汇集知识碎片，解决技术难题，体系化学习场景，深入浅出，易于理解
技能自测：提供免费测试，摸底自查
体验实验室：学完即练，云资源免费使用
问答排行榜
最热
最新
推荐问答
