当前位置:380元网站建设 虎网站 > 网站推广 > 正文

优化网站的抓取与收录

发布日期:2009-10-08
      很多有关于网站结构、抓取与收录、甚至是排名的问题都可以被归结为一个中心问题,那就是:搜索引擎能够多么容易的抓取您的网站?我们在最近的几次活动上都谈到过这个话题,下面您将会看到我们关于这个问题的演讲内容以及要点概括。
网络世界极其庞大;每时每刻都在产生新的内容。Google 本身的资源是有限的,当面对几近无穷无尽的网络内容的时候,Googlebot 只能找到和抓取其中一定比例的内容。然后,在我们已经抓取到的内容中,我们也只能索引其中的一部分。
URLs 就像网站和搜索引擎抓取工具之间的桥梁: 为了能够抓取到您网站的内容,抓取工具需要能够找到并跨越这些桥梁(也就是找到并抓取您的URLs)。如果您的URLs很复杂或冗长,抓取工具不得不需要反复花时间去跟踪这些网址;如果您的URLs很规整并且直接指向您的独特内容,抓取工具就可以把精力放在了解您的内容上,而不是白白花在抓取空网页或被不同的URLs指引却最终只是抓取到了相同的重复内容。
在上面的幻灯片上,您可以看到一些我们应当避免的反例--这些都是现实中存在的URL例子(尽管他们的名称由于保护隐私的原因已经被替换了),这些例子包括被黑的URL和编码,冗余的参数伪装成URL路径的一部分,无限的抓取空间,等等。您还可以找到帮助您理顺这些网址迷宫和帮助抓取工具更快更好地找到您的内容的一些建议,主要包括:
1)去除URL中的用户相关参数
那些不会对网页内容产生影响的URL中的参数——例如session ID或者排序参数——是可以从URL中去除的,并被cookie记录的。通过将这些信息加入cookie,然后301重定向至一个“干净”的URL,你可以保持原有的内容,并减少多个URL指向同一内容的情况。
控制无限空间
你的网站上是否有一个日历表,上面的链接指向无数个过去和将来的日期(每一个链接地址都独一无二)?你的网页地址是否在加入一个&page=3563的参数之后,仍然可以返回200代码,哪怕根本没有这么多页?如果是这样的话,你的网站上就出现了所谓的“无限空间”,这种情况会浪费抓取机器人和你的网站的带宽。如何控制好“无限空间”,参考这里的一些技巧吧。
2)阻止Google爬虫抓取他们不能处理的页面
通过使用你的robots.txt 文件,你可以阻止你的登录页面,联系方式,购物车以及其他一些爬虫不能处理的页面被抓取。(爬虫是以他的吝啬和害羞而著名,所以一般他们不会自己 “往购物车里添加货物” 或者 “联系我们”)。通过这种方式,你可以让爬虫花费更多的时间抓取你的网站上他们能够处理的内容。
一人一票。 一个 URL, 一段内容
在理想的世界里,URL和内容之间有着一对一的对应:每一个URL会对应一段独特的内容,而每一段内容只能通过唯一的一个URL访问。越接近这样的理想状况,你的网站会越容易被抓取和收录。如果你的内容管理系统或者目前的网站建立让它实现起来比较困难,你可以尝试使用rel=canonical元素去设定你想用的URL去指示某个特定的内容。

2023芽庄旅游攻略探索最美的海岛风情(1)

    2023芽庄旅游攻略探索最美的海岛风情 芽庄是越南南部海岸线上的旅游城市之一,拥有美丽的海滩、芽庄的海滩是的旅游胜地,吸引了成千上万的游客前来享受阳光、沙滩和海浪。如果您正在计划前往越南旅游,那么芽庄一定是您不容错过的目的地。在这篇中,我们将为您提供有关芽庄旅游攻略的详细信息,帮助您探索这座城市最美的海岛风情。 部分芽庄的概述 芽庄是越南中南部的一个城市,位于南海沿岸,是越南南部海岸线上的旅游城...

       企业网站设计使用蓝色色调 如果出现选择困难时, 可以 使用蓝色色调 。网页设计中如果对高亮色的选择举棋不定的话, 可以考虑使用蓝色。蓝色是一种弹性比较大的颜色, 可以和很多种颜色灵活搭配。绿色和黄色也很不错, 但如果运用不当反而会使得网页没有达到原先设计的效果。而且, 网页设计中如果运用蓝色进行设计, 那么用错颜色的概率就会很低。所以在设计中正犹豫着不知道用什么颜色好, 就可以使用蓝色来设计。合适一点的蓝色包括从H235到...

       手机版网站制作常见错误 通常来说,建设网站都是从电脑开始的,然而因为近几年手机终端的不断普及,手机浏览增多,流量开始向移动端进行转移,每个人都知道电脑的屏幕要比手机屏幕大,那么电脑的内容在手机上将不兼容,倘若想要做好,不仅仅是内容,需要思考的问题有很多,这里就来谈一谈手机版网站制作常见错误。 手机版网站制作常见错误   大多数人对手机网站服务器空间都存在着误解,很多人认为好像手机网站根本就不需要什么好的服务器,只不过是要...

       成都青羊第一职场文化培训跟虎网站签下网站建设合作协定 第一职场是经成都市青羊区工商局审核的正规企业,统一社会信用代码:915101056675954793。第一职场选用虎网站经济型入门级网站案例,其功能比较简单的程序,广告单图(无动漫),页面较简单,适合小微企业产品展示型网站。第一职场处于成都市青羊区贝森北路96号。   成都第一职场文化发展有限公司成立于2007年,注册地址:成都市青羊区贝森北路。将黄帝之道运用到现代企业管理中:以华夏音乐植入企业定...

       罗湖秀铭珠宝玉器和虎网科技签订网站建设协议 秀铭处于深圳市罗湖区贝丽北路万德城水贝玉器珠宝批发中心二楼。秀铭是经深圳市罗湖区工商局审核的正规企业,统一社会信用代码:9144030035988122XK。秀铭选用虎网站经济型入门级网站案例,其功能比较简单的程序,广告单图(无动漫),页面较简单,适合小微企业产品展示型网站。   深圳市秀铭珠宝有限公司,始创于2008年,公司位于目前国内最具影响力、交易量最大的专业珠宝交易基地深圳罗湖水贝珠宝园。...

       杭州富阳亚瑟乐器培训跟虎网站签下网站建设合作协定 亚瑟选用虎网站企业商务型网站案例,其功能具备实用型所有配置外、特别值得关注的是增设了SEO深度优化,不管是内页还是标题都能够独立和个性化设置关键词和长尾词,更适合进行全站seo优化。亚瑟是经杭州市富阳市工商局审核的有资质公司,统一社会信用代码:91330183MA2GK1MW9K。亚瑟坐落于杭州市富阳市银湖街道富闲路15号银湖科技园40幢301室。   专业设置: 声乐专业 :声乐(通俗 民族 美...

最新模板
少儿英语培训机构网站建设 培训公司网站建设
成人自考网站建设 成人培训网站制作设计版面
智能家居摆设设计网站建设 智能家居装修企业网站建设
铜螺母,铜螺丝,螺栓,螺钉工厂网站建设
废气处理设备,如活性炭吸附箱、RTO蓄热式氧化处理设备、光氧等离子复合设备 低温等离子设备 光氧催化设备等网企业网站建设
图文阅读