对于蜘蛛而言，网站地图是搜索引擎全面认识网站制作的好工具。网站地图就像花名册，好的网站地图能让蜘蛛很有指向性的访问网站中的任何页面。所以，制作网站地图时就需要谨慎行事了
这么做的主要目的就是为了分析蜘蛛爬行网站的情况，许多站长都有检查网站日志的习惯。当然其中多数站长也只是简单的解一下当天蜘蛛爬行的次数，这一点就足够发现问题了有时候，会觉得自己的网站已经相当完美了而正常优化过程中，蜘蛛却对此不感冒，让人很是着急。
搜索引擎借助蜘蛛在互联网这张大网中搜寻“猎物”唯一所能依据的线索就是链接了找到新的链接后，解原理就很容易理解。根据复杂的算法最终对网站进行排名，贮存在数据库中。很多网站可能会因为网站结构混乱失去蜘蛛到访的机会，然而蜘蛛不访问网站的因素有很多，下面我一起总结一下：
图片、flash等内容过多
搜索引擎发展到现在已经比拟的智能化了去年googl就推出了图片搜索功能，不得不说。能够分析图片的色彩、像素比例而找到图片的出处。然而这项技术对于搜索引擎完全的识别图片中的信息还有不小的差异，而很多站长或是不懂得搜索引擎优化，或是考虑网站美观和内容丰富，往往会在页面中嵌入大量高清图片、flash即使你网站内容再好，蜘蛛也无法知道，只能绕道而行了现在网络上有许多模拟蜘蛛抓取的工具，有类似情况的网站站长可以查询一下自己网站的信息，看看蜘蛛能够发现的信息和人眼看到有多大差距。
网站死链接过多
蜘蛛兴高采烈的来到网站，可以想象。开始逐个链接的搜寻，以为发现了一堆好的内容，然而却是一堆打不开的链接等着她一次、两次、三次，每次来都是这种情况，所以她生气了就再也不会访问你页面了大部分的网站都存在死链接，只要我能够及时的发现并清除掉就没有问题了可以利用强大的xenu也可以查看你网站日志，发现返回404状态码的一律清除。
外链与nofollow
因为其他网站上存在网站的链接。想要蜘蛛更频繁的光临，之所以蜘蛛能够成功的找到并访问你站点。建立外链时就应该考虑外链网站权重，收录数越大、pr值越高，快照更新越快的网站权重就越高。另外有些无良站长在做友情链接时，会有意设置nofollow这样的外链在蜘蛛眼里形同虚设，如果你网站的外链有这种现象，请及时撤除。
网站代码复杂
代码优化非常重要，网站建设中。冗长代码对网站无任何意义，而且还会影响打开速度和搜索引擎蜘蛛的判断。
网站逻辑结构复杂
也就是说，正确的网站逻辑结构应该是扁平状的树形结构。蜘蛛通过首页访问，能够达到任何一个栏目页，通过栏目页又能达到任何一个内容页，这个次数应该被限定在3次以内(较大的网站可以多几层)如果网站层次太多，网站权重又不够高，蜘蛛就没有兴趣去一层层的搜寻了。