apache使用.htaccess文件实现屏蔽wget下载网站内容
投稿：hebedich
wget是一个从网络上自动下载文件的自由工具，支持通过HTTP、HTTPS、FTP三个最常见的TCP/IP协议下载，并可以使用HTTP代理。wget名称的由来是“World Wide Web”与“get”的结合。
经发现，虽然wget遵循 robots.txt 规则，但是那个还是可以绕过去，现在把我自己使用的屏蔽方法分享给大家：
1. 屏蔽下载任何文件
.htaccess
SetEnvIfNoCase User-Agent "^wget" bad_bot <Limit GET POST> Order Allow,Deny Allow from all Deny from env=bad_bot </Limit>
2. 屏蔽下载部分文件
.htaccess
SetEnvIfNoCase User-Agent "^Wget" bad_bot SetEnvIfNoCase User-Agent "^Wget/1.5.3" bad_bot SetEnvIfNoCase User-Agent "^Wget/1.6" bad_bot <Files ~ "\.(html|pdf|mp3|zip|rar|exe|gif|jpe?g|png|php|jsp) $"> Order Allow,Deny Allow from all Deny from env=bad_bot </files>
您可能感兴趣的文章:
- 使用.htaccess设置图片防盗链的详细方法
- Apache使用 .htaccess 来实现强制https访问的方法
- 让Apache 2支持.htaccess并实现目录加密的方法
- APACHE支持.htaccess伪静重写出错 No input file specified的解决方案
- Apache使用.htaccess 屏蔽恶意 User Agent(防蜘蛛)
- PHP中的.htaccess伪静态文件
- 禁止网站显示文件目录列表的2个方法(htaccess)
- .htaccess rewrite 规则详细说明
- Apache服务器中.htaccess文件的实用配置示例集锦
- 使Nginx服务器支持.htaccess的方法
- Apache服务器中.htaccess的基本配置总结
- Apache服务器中使用.htaccess实现伪静态URL的方法
- Ubuntu下开启Apache对.htaccess 的支持
- Apache2.4.x版wampserver本地php服务器如何让外网访问及启用.htaccess
- nginx支持.htaccess文件实现伪静态的方法分享
- 21个常用的apache .htaccess文件配置技巧分享
- 教你如何在CI框架中使用 .htaccess 隐藏url中index.php
- 利用.Htaccess阻止IP恶意攻击网站,禁止指定域名访问,禁止机器爬虫,禁止盗链