百独托管7500 紫田网络超高转化播放器收cps[推荐]速盾CDN 免实名免备防屏蔽阿里云 爆款特卖9.9元封顶提升alexa、IP流量7Q5团队
【腾讯云】中小企福利专场【腾讯云】多款产品1折起高防 随时退换 好耶数据小飞国外网赚带你月入万元炎黄网络4H4G10M 99每月
香港带宽CN2/美国站群优惠中客数据中心 服务器租用联盟系统移动广告平台 中易企业专场腾讯云服务器2.5折九九数据 工信部正规资质
腾讯云新用户大礼包代金券高价收cpa注册量高价展示【腾讯云】2核2G/9.93起租服务器找45互联 随时退换阿里云 短信服务 验证秒达

[提问] 影响蜘蛛抓取因素分析 [复制链接]
查看:884 | 回复:9

91

主题

260

帖子

16

积分

落伍者(一心一意)

Rank: 1

贡献
71
鲜花
1
注册时间
2012-8-23
发表于 2012-12-25 13:34:13 | |阅读模式 来自 中国广东深圳
解析影响蜘蛛抓取内容的四大因素网站收录良好与否跟蜘蛛爬行频繁次数、抓取页面有关是众所周知的,但是对于蜘蛛抓取了哪些页面我们不知道,那么我们只能依靠蜘蛛爬行过的访问日志进行分析了。从日志中我们可以分析出很多的数据,那么今天笔者主要给大家讲解一下影响蜘蛛抓取的因素和爬行时间,不要小看这个日志,它可以帮助你知道网站对于蜘蛛来说,是不是意味着友好的状态,蜘蛛喜不喜欢自己的站,如果爬行量大的话,那么就可以简单的得出网站很合蜘蛛的胃口,如果蜘蛛几天都不来的话,那么就要检查一下,是不是网站没有蜘蛛喜欢的“食物”了,下面就说说影响抓取的有关要点:

    影响蜘蛛抓取因素一,是否有网站地图网站地图对于蜘蛛来说就是一幅爬行路线图,当蜘蛛拥有了这张路线图的时候,那么在网站上爬行就不会那么的吃力,而且也不会有随时会转到头晕的感觉。网站地图是专门给蜘蛛用的,目的就是减少蜘蛛爬行时间,加快蜘蛛爬行速度,毕竟,如果你的网站不配地图的话,就像自己去一个陌生的地方,没有地图,就要靠盲目的找了,这要花的时间多了多少,笔者不知道。所以,同样的道理,网站地图对于蜘蛛来说也一样的重要,省什么都不要省了地图,他是战前的准备、战中的方向、战后的总结。

    影响蜘蛛抓取因素二,是否设置404页面很多的网站对于这个根本不在意,其实按笔者的实战心得来说,这个对于一个存在死链的网站有着很重要的意义,因为他可以帮网站告诉蜘蛛,当它爬到死角的时候,给他一条出来返生之道,404页面就是为了避免蜘蛛走进死胡同出不来而准备的,谁敢保证自己的网站不会有死链的出现,死链对于一个网站的影响是很重要的,如果网站的死链过多,而又缺少404页面,那么用站长工具查询分析的时候,你会发现,很多的页面都抓取错误,这一方面说明,网站对蜘蛛的友好度不够,让蜘蛛产生排斥的心理。所以,404页面一定要给网站来上一个,反正又不占多大的空间,为什么不搞上呢影响蜘蛛抓取因素三,是否导出链接过多一个网站过多的导出链接,对于网站的权重集中有很大的影 响,对于蜘蛛的逗留时间有很大的催促作用,因为当蜘蛛爬行你的网站的时候,一般都是由头爬到尾的,那么蜘蛛爬行有时候是按广度爬行法,有时按深度排行法,当它按广度排行法的时候,刚好爬到尾部而还没进入内页,你就给他来一条导出链接,那么蜘蛛也会按照其导出链接出去的,这样就是你经常看到的蜘蛛来了,但是没收录任何页面的原因了。所以,网站不要设置过多的导出链接,他给你的网站没有任何的利益。

    影响蜘蛛抓取因素四,是否导入链接过少相对导出链接,那么导入链接就是越多越好了。导入链接要遵从两个原则:广泛度与质量。先有质才有量,所以,咱们建设导入链接的时候,要先注重导入链接的质,然后再追求量。如果你颠倒过来的话,那么不但不能让网站对搜索引挚友好,而且还会让网站在搜索引挚眼里减分。因为你追求量的时候,通常都会把质忘了,造成了拥有过多的垃圾链、无效链接。所以,导入链接最讲究的是质与广,只有两者很好的结合在一起,才能让网站排名权重刷刷的往上涨。
头像被屏蔽

29

主题

1953

帖子

152

积分

禁言

贡献
203
鲜花
2
注册时间
2012-9-25
发表于 2012-12-25 14:03:37 | 来自 中国安徽合肥
提示: 作者被禁止或删除 内容自动屏蔽
签名被屏蔽
头像被屏蔽

0

主题

3599

帖子

6282

积分

禁言

贡献
3879
鲜花
0
注册时间
2005-3-28
发表于 2012-12-26 09:35:17 | 来自 中国天津
提示: 作者被禁止或删除 内容自动屏蔽
签名被屏蔽
头像被屏蔽

0

主题

3639

帖子

6317

积分

落伍者(三羊开泰)

Rank: 3Rank: 3

贡献
3941
鲜花
0
注册时间
2005-3-25
发表于 2012-12-26 09:42:15 | 来自 中国天津
提示: 作者被禁止或删除 内容自动屏蔽
签名被屏蔽

0

主题

16

帖子

-15

积分

尚未落伍(少量栏能回帖)

贡献
6
鲜花
0
注册时间
2012-3-28
发表于 2012-12-26 09:51:33 | 来自 中国河南郑州
影响蜘蛛抓取因素一,是否有网站地图网站地图对于蜘蛛来说就是一幅爬行路线图,当蜘蛛拥有了这张路线图的时候,那么在网站上爬行就不会那么的吃力,而且也不会有随时会转到头晕的感觉。
头像被屏蔽

0

主题

176

帖子

6057

积分

禁言

贡献
3904
鲜花
0
注册时间
2005-3-27
发表于 2012-12-26 09:58:46 | 来自 中国天津
提示: 作者被禁止或删除 内容自动屏蔽
签名被屏蔽
头像被屏蔽

0

主题

3584

帖子

6205

积分

禁言

贡献
3795
鲜花
1
注册时间
2005-3-30
发表于 2012-12-26 10:03:11 | 来自 中国天津
提示: 作者被禁止或删除 内容自动屏蔽
签名被屏蔽

12

主题

1365

帖子

280

积分

落伍者(一心一意)

Rank: 1

贡献
260
鲜花
0
注册时间
2012-8-7
发表于 2012-12-26 10:30:58 | 来自 中国浙江金华
影响蜘蛛抓取的最主要的因素还是外链质量和内链的布局。

125

主题

257

帖子

127

积分

落伍者(一心一意)

Rank: 1

贡献
27
鲜花
0
注册时间
2012-10-4
发表于 2012-12-26 10:35:11 | 来自 中国江苏南京
慢慢学习知识{:1_194:}
头像被屏蔽

37

主题

2447

帖子

979

积分

落伍者(一心一意)

Rank: 1

贡献
1576
鲜花
0
注册时间
2012-9-29
发表于 2012-12-26 10:37:11 | 来自 中国浙江金华
提示: 作者被禁止或删除 内容自动屏蔽
签名被屏蔽
论坛客服/商务合作/投诉举报:2171544 (QQ)
落伍者创建于2001/03/14,本站内容均为会员发表,并不代表落伍立场!
拒绝任何人以任何形式在本论坛发表与中华人民共和国法律相抵触的言论!
落伍官方微信:2030286 邮箱:(djfsys@gmail.com|tech@im286.com)
© 2001-2014

浙公网安备 33060302000191号

浙ICP备11034705号 BBS专项电子公告通信管[2010]226号

  落伍法律顾问: ITlaw-庄毅雄

手机版|找回帐号|不能发帖?|Archiver|落伍者

GMT+8, 2024-5-30 11:22 , Processed in 0.121523 second(s), 32 queries , Gzip On.

返回顶部