SEO名词百科 - 投稿申请 - 关于小六 - 网站地图 不懂SEO,不懂网站优化从何入手?到重庆SEO【小六】SEO教程自学网,小六在这里狂甩SEO干货,助你自学成才!
当前位置:SEO首页 > SEO答疑 > 正文

robots协议完全屏蔽蜘蛛爬取会怎样?

时间:2017-03-28 10:25:37 来源:原创 作者:小六SEO 阅读:
    robots协议完全屏蔽蜘蛛爬取会怎样?可能很多伙伴都有这些疑问。
    屏蔽掉所有蜘蛛后,蜘蛛还会来爬取吗?
    屏蔽掉所有蜘蛛后,网站会降权吗?
    屏蔽掉所有蜘蛛后,网站还有排名?
robots协议完全屏蔽蜘蛛爬取会怎样
    robots屏蔽所有蜘蛛爬取的写法:
    User-agent: *
    Disallow:/
    了解更多写法,请点击这里:robots写法
    下面小编来说一下相关问题的解答:

    屏蔽掉所有蜘蛛后,蜘蛛还会来爬取吗?
    解答:是会的,robots只能屏蔽掉自动到本网站进行爬取的蜘蛛,如果你的某个页面在站外其他地方有留下外链的话,蜘蛛还是通过外链访问某个页面。并且百度并不一定能百分百遵守这个robots协议,还是会存在一些误差,导致蜘蛛依然来爬取。

    屏蔽掉所有蜘蛛后,网站会降权吗?
    解答:短期内是不会的,短期内,百度数据库内还会有缓存数据,当过段时间你开放蜘蛛爬取后,蜘蛛就会正常进行爬取,已收录的页面还会存在。

    屏蔽掉所有蜘蛛后,网站还有排名?
    解答:短期内排名是不会掉的,就和上面不会降权的解答一样。但是如果长期屏蔽的话,会造成百度或其他搜索引擎不知道当前网站的具体情况,如:有更新或者有删除页面等情况的发生,久了就会被其他长期更新的优质网站所超越,自然排名就会下降。

    小提示:当我们在网站备案的时候可以把蜘蛛完全屏蔽,备案完成后再开放是可以的。


    其他相关疑问查看:
    网站优化必备:如何分析同行网站

(责任编辑:小六SEO)

顶一下
(8)
88.9%
踩一下
(1)
11.1%