开发者社区> 问答> 正文

为什么用云服务器日志中看不到蜘蛛爬行记录









为什么只能看到ip get 网址,却看不到任何蜘蛛的爬行记录。问阿里客服,居然说是百度的问题。不存在好吧,我都收录11万多了。而且还专门测试过。




谁能指点一下,要怎么弄

展开
收起
水诺 2016-09-08 17:02:34 4370 0
3 条回答
写回答
取消 提交回答
  • 回 1楼西秦的帖子
    能仔细描述一下吗?

    -------------------------

    回 2楼dongshan8的帖子
    你是说用百度站长平台的抓取诊断吗?这个我在帖子里说过了,我专门测试过,抓取成功,不存在问题,刚刚特地去弄了一遍,截图奉上。
    2016-09-09 09:18:50
    赞同 展开评论 打赏
  • 旺旺:nectar2。
    楼主您好,

    您也可以尝试登录到“百度站长平台”,使用其中的工具,大概诊断一下问题哩。

    -------------------------

    回 4楼(水诺) 的帖子
    您好,

    如果百度的快照里有您的站点页面收录记录,但您的Web服务器里没有蜘蛛爬行过的日志信息,可能重新是检查您的站点日志设置了,如是否过滤掉了一些访问类型等等。
    2016-09-08 18:37:28
    赞同 展开评论 打赏
  • 码农|Coder| Pythonista
    您看下是不是您的web程序没有记录爬虫的记录。这个应该是您的设置问题

    -------------------------

    回 3楼(水诺) 的帖子
    检查下你的日志生成规则,是否屏蔽了爬虫的部分
    2016-09-08 17:27:03
    赞同 展开评论 打赏
问答排行榜
最热
最新

相关电子书

更多
PostgresChina2018_赖思超_PostgreSQL10_hash索引的WAL日志修改版final 立即下载
Kubernetes下日志实时采集、存储与计算实践 立即下载
日志数据采集与分析对接 立即下载