搜索引擎蜘蛛是搜索引擎的一个自动程序。它的作用是访问互联网上的网页、图片、视频等内容,建立索引数据库,使用户能在搜索引擎中搜索到您网站的网页、图片、视频等内容。
一般用法为“ spider+URL”,后面的 URL(网址)是搜索引擎的痕迹,如果要查看某搜索引擎是否来爬取过你们的网站,可查看服务器的日志里是否有该 URL,同时还能查看来的时间、频率等…
![搜索引擎和他们的蜘蛛们 搜索引擎和他们的蜘蛛们](https://www.zjzjcp.com/wp-content/uploads/2019/12/20191231_5e0acdb3bd2b9.jpg)
1、百度蜘蛛:可以根据服务器的负载能力调节访问密度,大大降低服务器的服务压力。根据以往的经验百度蜘蛛通常会过度重复地抓取同样的页面,导致其他页面无法被抓取到而不能被收录。这种情况可以采取 robots 协议的方法来调节。
2、谷歌蜘蛛:谷歌蜘蛛属于比较活跃的网站扫描工具,其间隔 28 天左右就派出“蜘蛛”检索有更新或者有修改的网页。与百度蜘蛛最大的不同点是谷歌蜘蛛的爬取深度要比百度蜘蛛多一些。
3、雅虎中国蜘蛛:如果某个网站在谷歌网站下没有很好的收录,在雅虎下也不会有很好的收录和爬行。雅虎蜘蛛的数量庞大,但平均的效率不是很高,相应的搜索结果质量不高。
4、微软必应蜘蛛:必应与雅虎有着深度的合作关系,所以基本运行模式和雅虎蜘蛛差不多。
5、搜狗蜘蛛:搜狗蜘蛛的爬取速度比较快,抓取的数量比起速度来说稍微少点。最大的特点是不抓取 robot. text 文件。
6、搜搜蜘蛛:搜搜早期是运用谷歌的搜索技术,谷歌有收录,搜搜肯定也会收录。2011 年搜搜已经宣布采用自己的独立搜索技术,但搜搜蜘蛛的特性和谷歌蜘蛛的特点还是有着相似的地方。
7、有道蜘蛛:和其他搜索引擎蜘蛛一样,凡是高权重网站的链接一般都能将其收录。爬行原理也是通过链接之间的爬行。
搜索引擎蜘蛛的抓取规则,如下四点提供参考:
1、搜索引擎蜘蛛要能看到链接文字
这个是搜索引擎蜘蛛爬行时能够检索到的文字,如果文字或链接是通过 JavaScript 调用,蜘蛛是检索不到的。页面的文字内容中主要内容位置越靠前越有利,例如产品名称放到页面越靠前的位置,对该页面产品关键词的排名越有利。
2、搜索引擎蜘蛛能爬行未经 nofollow 处理过的链接
这一项列出的是搜索引擎蜘蛛能够检索到链接,蜘蛛能够通过这些链接访问网站其他页面,越靠前的链接,被蜘蛛爬行的几率就越大,被搜索引擎收录的可能性越高。
3、搜索引擎蜘蛛能发现图片链接并能阅读到这些图片所包含的含义
这里主要展示该页面被搜索引擎蜘蛛和国际 W3C 标准化监测器所检索到的图片,搜索引擎能够根据图片 at=”” 去判断该图片的类型,性质和主题,对于判断该图片链接的页面的主题有巨大帮助,能有效提高商品展示页的搜索引擎排名根据 W3C 标准,页面上所有图片都必须添加 alt=”” 图片注释,网站 Logo 使用网站名称加简短描述,商品图片使用商品名称,网页框架图片留空。
4、搜索引擎蜘蛛能很好地识别 HTML 代码
模拟搜索引擎蜘蛛爬行该页面时,获得的“最简化代码->是指过滤 css, JavaScript 后的代码”,由此可以看出减少代码空行,换行,空格等多余代码空间非常重要。
本文为原创文章,版权归主机之家测评所有,欢迎分享本文,转载请保留出处!
你可能也喜欢
- ♥ robots 文件的作用是什么?12/18
- ♥ 网站降权都稳住,优化技巧为你排忧解难12/21
- ♥ 网站导入链接建设教程01/01
- ♥ SEM 是什么意思?12/19
- ♥ 网站关键词排名下降的原因主要有哪些?12/20
- ♥ 301 永久重定向的几个问题12/17