搜索
查看: 9|回复: 0

搜索引擎的蜘蛛是如何爬的,如何吸引蜘蛛来抓取页面

[复制链接]

306

主题

306

帖子

918

积分

管理员

Rank: 9Rank: 9Rank: 9

积分
918
发表于 6 天前 | 显示全部楼层 |阅读模式
搜索引擎的工作过程大体可以分成三个阶段:

  (1)爬行和抓取:搜索引擎蜘蛛通过跟踪链接发现和访问页面,读取页面HTML代码,存到数据库。

  (2)预处理:索引程序对抓取来的页面数据进行文字提取、中文分词、索引、倒排索引等处理,以备排名程序调用。

  (3)排名:用户输入查询词(关键词)后,排名程序调用索引数据,计算相关性,然后按一定格式生成搜索结果页面。

爬行和抓取是搜索引擎工作的第一步,完成数据收集的任务。搜索引擎用来抓取页面的程序被称为蜘蛛(spider)

  一个合格的SEOer,要想让自己的更多页面被收录,就要想法设法吸引蜘蛛来抓取。

  蜘蛛抓取页面有几方面因素:

  (1)网站和页面的权重,质量高、时间长的网站一般被认为权重比较高,爬行深度也会比较高,被收录的页面也会更多。

  (2)页面的更新频率,蜘蛛每次爬行都会把页面数据储存起来,如果第二次,第三次的抓取和第一次的一样,说明没有更新,久而久之,蜘蛛也就没有必要经常抓取你的页面啦。如果内容经常更新,蜘蛛就会频繁访问页面,来抓取新的页面。

  (3)导入链接,不管是内部链接还是外部链接,要想被蜘蛛抓取,就必须有导入链接进入页面,否则蜘蛛就不会知道页面的存在。

  (4)与首页的点击距离,一般网站上权重最高的是首页,大部分外部链接都会指向首页,那么蜘蛛访问最频繁的页面就是首页,离首页点击距离越近,页面权重越高,被爬行的机会越大。

爬行和抓取是搜索引擎工作的第一步,完成数据收集的任务。搜索引擎用来抓取页面的程序被称为蜘蛛(spider)

  一个合格的SEOer,要想让自己的更多页面被收录,就要想法设法吸引蜘蛛来抓取。

  蜘蛛抓取页面有几方面因素:

  (1)网站和页面的权重,质量高、时间长的网站一般被认为权重比较高,爬行深度也会比较高,被收录的页面也会更多。

  (2)页面的更新频率,蜘蛛每次爬行都会把页面数据储存起来,如果第二次,第三次的抓取和第一次的一样,说明没有更新,久而久之,蜘蛛也就没有必要经常抓取你的页面啦。如果内容经常更新,蜘蛛就会频繁访问页面,来抓取新的页面。

  (3)导入链接,不管是内部链接还是外部链接,要想被蜘蛛抓取,就必须有导入链接进入页面,否则蜘蛛就不会知道页面的存在。

  (4)与首页的点击距离,一般网站上权重最高的是首页,大部分外部链接都会指向首页,那么蜘蛛访问最频繁的页面就是首页,离首页点击距离越近,页面权重越高,被爬行的机会越大。

回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

73插件网

网站简介:73插件网,DZ插件免费下载,DZ模板免费下载,网站源码下载,ASPCMS模板下载,PHPCMS模板下载,织梦模板,73插件网提供最专业的DZ插件、DZ模板、织梦模板等各种网站源码下载,我们只用心做,我们只专业做各种插件和网站源码下载网!

联系我们

  • 客服QQ:507837649
  • 反馈邮箱:507837649@qq.com

Archiver|手机版|小黑屋|73插件网  

Powered by Discuz!  © 2001-2013 Comsenz Inc.

快速回复 返回顶部 返回列表