蜘蛛抓取

通过程序发出网站页访问请求后, 服务器返回网页代码, 蜘蛛对页面代码进行抓取, 索引入库, 根据网站权重及质量度，搜索引擎将对网站进行不同频次抓取。

为何SEO需要对URL进行优化?

URL优化不仅仅有利于用户体验, 网站的权重集权, 对网站页面收录也拥有很大的好处, 做网站到上线最基本的准则, 是满足百度蜘蛛能够对网站进行全面抓取, 对于蜘蛛来说最简单的方法就是深度抓取和广度抓取。

什么是蜘蛛深度抓取?

　　指蜘蛛发现一个链接进行爬行的过程中, 一直向前, 直到最深层级不可再爬行为止, 然后返回最初爬行页面, 再进行下一个链接爬行。就好比从网站的首页, 爬行到网站的第一个栏目页，再通过栏目页爬行一个内容页，然后跳出首页，对第二个网站进行爬行。

什么是蜘蛛广度抓取?

　　指蜘蛛爬行一个页面, 存在多个链接时, 并非对一个链接进行深入抓取, 例如：蜘蛛进入网站首页后, 对所有栏目页进行有效爬行, 再对所有栏目页下的二级栏目或者内容页进行爬行, 也就是一层层的爬行方式，不是一个个的爬行方式。

由此可见——

栏目的层级关系对SEO优化还是有至关重要的影响, 网站抓取无论是深度优先，还是广度优先，尽可能缩减链接命名的复杂程度, 以及不必要的层级关系, 有效的降低百度蜘蛛的不必要抓取, 毕竟对于百度蜘蛛来说，时间跟宽带资源并不是无限制的, 让蜘蛛能够通过更短的时间, 对网站进行全部抓取, 对网站收录, 以及网站排名有至关重要得到作用, 毕竟蜘蛛对每个网站抓取能力有限, 但是为考虑更多的站点和内页，所以一般搜索引擎都会对广度抓取和深度抓取进行混合使用, 当然抓取频次和深度, 也会同页面质量度、网站规模、外链情况、更新频次、网站权重等诸多因素进行考虑。