影响Spider访问的因素

这张图很形象的说明了搜索引擎的 Spider在抓取网页时，一些不友好的元素会对其形成较坏的影响


   1. Orphan Pages；Spider是根据链接抓取网页，没有链接的网页，自然使spider抓取困难。
   2. Unfriendly SEO-CMS System；CMS对SEO不友好的话，会对spider形成一定的干扰，比如js、ajax、链接分布、frame结构等等。
   3. Bad server Configuration；如阻止搜索引擎spider访问、302重定向、访问权限等等，以及服务器的稳定性，都有可能对spider造成致命的打击。
   4. Cloaking；比如隐藏文字、没有任何内外链的网页，都会使spider出现问题。
   5. Session Based Coding；URL根据访问者的cookie随机变换、html代码中大量的字符，这些session闯下的祸，对于一个不依赖SEO的网站来说可能没什么，但是对于一个基于SEO的网页来说可是致命的。
   6. 没有处理错误页面；如404跳转等