通义千问升级后免费开放 1000 万字长文档处理功能,将会带来哪些利好?你最期待哪些功能?
*我理解的长文本输入的优势至少有以下:
通义千问变成一个万能字典上下文连贯检索更准确
*更期待:
增强的摘要和提炼能力改进对更复杂的prompt的准确回答提升处理效率
*以下是当前我处理长文本的方式:目前我在实际应用中确实有使用大段长文本的场景,使用embed+gpt的summarize结合方式(比如llama),能够搜索或提取出相关信息,但结果对比短文本gpt直接输入,明显不太理想:分块之间的关联性不好、结果不够连贯、提取内容不相关、等待embed的时间比较长。。。这些计算资源、检索效率的限制等。有了千万字的支持,完全可以解决当下问题!
赞30
踩0