Python 数据挖掘中,文本相似度计算里基于语料库方法有哪些呢?
1. 基于词袋(VSM、LSA、PLSA、LDA):不考虑词语在文档中出现的顺序,将文档表示成一系列词语的组合。
2. 基于神经网络:(Word2vec、Glove、Bert):通过神经网络模型生成词向量,利用上下文生成低维的实数向量。
3. 基于搜索引擎:Web成为内容最丰富、数据量最大的语料库,与此同时搜索引擎相关算法的进步,使得有任何需求的用户都可通过搜索找到答案。其基本原理是给定搜索关键词×、y,搜索引擎返回包含x、y的网页数量f (x)、f(y)以及同时包含x和y的网页数量f(x, y)。
版权声明:本文内容由阿里云实名注册用户自发贡献,版权归原作者所有,阿里云开发者社区不拥有其著作权,亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容,填写侵权投诉表单进行举报,一经查实,本社区将立刻删除涉嫌侵权内容。