开发者社区> 问答> 正文

如何禁用掉Web Core / Roots的机器人抓取

网站发现 Web Core / Roots机器人,这个机器人占用太多流量,最关键每次因为这个都把站点服务器弄崩溃,本站点是个人博客,想问下如何屏蔽这个Web Core / Roots的机器人抓取 image.png


本人也参看阿里云给予的文档帮助(云虚拟主机被爬虫访问耗费大量流量的解决方法),使用User-Agent,Robots.txt禁用,1是文档并没有给到Web Core / Roots的User-Agent,想问下大神 如何处理,感谢感谢


禁用掉Web Core / Roots的机器人抓取

如下是Robots.txt禁用原文

User-agent: Web Core / Roots
Disallow: /
User-agent: Web Core/Roots
Disallow: /
User-agent: *
Disallow: 
Disallow: /bin/

展开
收起
冰镇宝贝321 2021-04-07 09:59:00 1219 0
1 条回答
写回答
取消 提交回答
  • 下一站是幸福

    本次直接在Asp.Net Core WebApi下完成机器人的调用,新建一个DingTalk的控制器,然后完成对IHttpClientFactory的注入工作,便开始接下来的服务调用了,

    2021-04-09 15:39:23
    赞同 展开评论 打赏
问答排行榜
最热
最新

相关电子书

更多
下一代服务机器人的应用和创新 立即下载
机器人的小脑SLAMWARE - 机器人自主定位导航系统 立即下载
AIOps的核心技术之一:任务机器人如何在金融运维 运营中落地 立即下载