codetc - 网站开发技术 首页 后端 服务器 查看内容

Nginx服务器屏蔽网络爬虫

2018-12-22 12:20| 发布者: CODETC| 查看: 159| 评论: 0

每个网站通常都会遇到很多非搜索引擎的爬虫,这些爬虫大部分都是用于内容采集或是初学者所写,它们和搜索引擎的爬虫不一样,没有频率控制,往往会消耗大量服务器资源,导致带宽白白浪费了。

其实Nginx可以非常容易地根据User-Agent过滤请求,我们只需要在需要URL入口位置通过一个简单的正则表达式就可以过滤不符合要求的爬虫请求:

location / {
    if ($http_user_agent ~* "python|curl|java|wget|httpclient|okhttp") {
        return 503;
    }
    # 其它正常配置
    ...
}

注意:变量$http_user_agent是一个可以直接在location中引用的Nginx变量。~*表示不区分大小写的正则匹配,通过python就可以过滤掉80%的Python爬虫。
文章来源 CODETC,欢迎分享,转载请注明地址: http://www.codetc.com/article-353-1.html

最新评论

 作为游客发表评论,请输入您的昵称

返回顶部