开发者社区> 问答> 正文

scrapy和scrapy-redis有什么区别?

scrapy和scrapy-redis有什么区别?

展开
收起
真的很搞笑 2021-11-02 23:18:37 356 0
1 条回答
写回答
取消 提交回答
  • scrapy是一个Python爬虫框架,爬取效率极高,具有高度定制性,但是不支持分布式。而scrapy-redis一套基于redis数据库、运行在scrapy框架之上的组件,可以让scrapy支持分布式策略,Slaver端共享Master端redis数据库里的item队列、请求队列和请求指纹集合。

    2021-11-02 23:18:51
    赞同 展开评论 打赏
问答排行榜
最热
最新

相关电子书

更多
Redis在唯品会的应用实践——架构演进与功能定制 立即下载
微博的Redis定制之路 立即下载
云数据库Redis版的开源之路 立即下载