使用CDN的User-Agent反爬虫（附User-Agent恶意爬虫名单）

我的主博客是可定博客(https://wnag.com.cn/)

原文链接：使用CDN的User-Agent反爬虫（附名单）

这几天发现CDN上的钱去的有点快，后台一查，有爬虫在后台爬了几千次，还是自己不认识的。因此如果你有用CDN的话，可以用CDN的User-Agent反爬虫。

这里以又拍云为例，CDN后台 - 访问控制 - User-Agent防盗链

附下一些恶意爬虫的名单：

*FeedDemon*
*BOT/0.1(BOTforJCE)*
*CrawlDaddy*
*Java*
*Jullo*
*Feedly*
*UniversalFeedParser*
*ApacheBench*
*Swiftbot*
*YandexBot*
*AhrefsBot*
*jikeSpider*
*MJ12bot*
*ZmEuphpmyadmin*
*WinHttp*
*EasouSpider*
*HttpClient*
*MicrosoftURLControl*
*YYSpider*
*jaunty*
*oBot*
*Python-urllib*
*IndyLibrary*
*FlightDeckReportsBot*
*LingueeBot*
*DotBot*
*SemrushBot*

参考：Nginx反爬虫： 禁止某些User Agent抓取网站

特别声明：本文章原则上禁止转载，如确实要转载，请私信本博主，尊重劳动成果。