如何限制蜘蛛的抓取量 而不影响seo效果.pdfVIP

云客网 您网站的流量加油站 如何限制蜘蛛的抓取量 而不影响seo 效果 网站假如采用的是虚拟空间，那么都会有一定的流量限制，如果大部分的流量都 被蜘蛛所占据，那么我们就需要额外花费一些钱去购买流量了。那么假如一个网 站很多流量都是蜘蛛抓取所浪费的，有哪些技巧和方法可以限制而不影响seo 效 果呢？焦大认为，我们可以采用以下几种方式： 1，找出虚假蜘蛛进行IP 屏蔽。通过网站日志分析，我们可以知道其实很多所谓 的百度spider 或谷歌spider 其实都是假的，我们可以通过解析出这些虚假蜘蛛的 IP进行屏蔽，这样不仅可以节省流量也可以减少网站被采集的风险。具体操作 中需要反查出IP 是不是真蜘蛛，操作方法为：点击左下角的开始-运行-CMD-输 入命令nslookup ip 回车就可以看到结果了。如果是真的搜索蜘蛛都有一个蜘蛛 标记，而假的蜘蛛却没有标记。 2，屏蔽无效的蜘蛛或对seo 效果小的搜索蜘蛛。比如我们知道谷歌蜘蛛是抓取 量非常大，但是对于很多行业来说谷歌的流量很低，seo 效果并不好，因此可以 进行屏蔽谷歌蜘蛛的抓取而节省大量的流量，例如美丽说网站就屏蔽了谷歌蜘蛛 的抓取。除了谷歌之外，还有一些蜘蛛比如的盘古搜索、bing 蜘蛛等，这些流量 都非常低的，或者几乎没有太大作用的蜘蛛其实都可以屏蔽掉。 3，用robots 限制无效页面或重复页面的抓取。有一些页面可能以前存在但是现 在没有了，或者是存在动态与静态的URL 一起存在，由于存在反向链接或数据 库内有这样的链接，蜘蛛仍旧会不时进行抓取，我们可以找出返回404 页面的 URL，把这些URL 都给屏蔽掉，这样既提高了抓取屏蔽也减少了流量浪费。 4，限制页面的抓取内容来提高抓取效率与抓取速度，减少抓取流量。对于任何 一个页面来说，都有很多无效的噪音区，比如一个网站的登录、注册部分、最下 面的版权信息和一些帮助性的链接导航等，或一些模板上存在一些无法被蜘蛛识 别的展示模块等，这些我们都可以采用加Noffollow 标签或ajax、JS等方法进行 限制或屏蔽抓取，减少抓取量。 5，外部调用或cdn 加速来提高蜘蛛的抓取，减少服务器的响应和流量浪费。目 前的网站大多采用大量的图片、视频等多媒体来展示，而这些图片缺需要较多的 下载流量，如果我们把图片采用外部调用的方式，那么就可以节省大量的蜘蛛抓 取流量。目前比较好的方法有把图片放在其他的服务器或上传到一些网盘上都可 以。 6，利用站长工具限制或提高蜘蛛的抓取，或者限制蜘蛛抓取的时间。目前百度 站长平台和谷歌站长平台都有站长抓取的工具，可以用来限制蜘蛛抓取的时间和 抓取量，我们可以根据需要进行合理调配，达到最佳的效果。 以上就是焦大总结的如何提高蜘蛛抓取效率、降低抓取量的一些方法，当然在实 际中我们也可以根据自身实际需求来解决，比如可以对一些抓取量过大的栏目在 sitemap 设置较低的抓取频率、对一些重要的内容如果收录不好的话也可以增加 SEO排名 / 云客网 您网站的流量加油站 外链或内链来提高抓取等，方法是死的，我们可以根据具体的续期去进行合理化 的设置，来达到更少的抓取而更高的抓取效率。 本文由起源seo 论坛/焦大原创，首发于chinaz。 SEO排名 /