SEO网站优化robots.txt使用中常见的误区
比如有很多人这样写:
User-agent: *
Allow: /
Disallow: /mulu/
想让所有蜘蛛抓取BOB体官网手机版除/mulu/下面的url之外的所有页面,禁止抓取/mulu/下面的所有url。
SEO网站优化搜索引擎蜘蛛实行的规则是从上到下,这样会造成第二句命令失效。也就是说禁止抓取/mulu/目录这条规则是无效的。正确的是Disallow应该在Allow之上,这样才会生效。
误区2.Disallow命令和Allow命令之后没有以斜杠”/”开头。
这个也很容易被忽视,比如有人这样写Disallow: 123.html ,这种是没有效果的。斜杠”/”表示的是文件对于根目录的位置,如果不带的话,自然无法判断url是哪个,所以是错误的。
正确的应该是Disallow: /123.html,这样才能屏蔽/123.html这个文件,这条规则才能生效。
误区3.屏蔽的目录后没有带斜杠”/”。
也就是比如想屏蔽抓取/mulu/这个目录,有些人这样写Disallow: /mulu。那么这样是否正确呢?
首先这样写(Disallow: /mulu)确实可以屏蔽/mulu/下面的所有url,不过同时也屏蔽了类似/mulu123.html这种开头为/mulu的所有页面,效果等同于Disallow: /mulu*。
正确的做法是,如果只想屏蔽目录,那么必须在结尾带上斜杠”/”。
本文发布于北京BOB体官网手机版企业尚品中国/
建站流程
-
网站需求
-
网站策划方案
-
页面设计风格
-
确认交付使用
-
资料录入优化
-
程序设计开发
-
后续跟踪服务
-
联系电话
010-60259772
热门标签
- BOB体官网手机版
- 无锡BOB体官网手机版
- 研究所BOB体官网手机版
- 沈阳BOB体官网手机版
- 廊坊BOB体官网手机版
- 郑州BOB体官网手机版
- 婚纱摄影BOB体官网手机版
- 食品BOB体官网手机版
- 手机端BOB体官网手机版
- 高校BOB体官网手机版
- 天津BOB体官网手机版
- 教育BOB体官网手机版
- 品牌BOB体官网手机版
- 政府BOB体官网手机版
- 北京BOB体官网手机版
- BOB体官网手机版
- BOB体官网手机版
最新文章
推荐资讯
更多行业-
[北京BOB体官网手机版]大运会WiFi全城通 网络建站潮流所趋
大运会WiFi全城通 网络建站潮流所趋第26届世界大学生运动会正在深圳...
2011-10-24 -
如何了解自己网站的SEO性能?
如何查看自己网站的SEO表现 波动你所有的SEO指标都会时不时的波动。...
2020-12-10 -
网站logo的制作标准
草根站长越来越多,大家的网站logo制作多数很随意,先不说美观不美观,...
2013-05-22 -
企业建立网站的十大好处
企业上网是21世纪企业为适应新形势下竞争需要而作出的战略选择,中国企业...
2013-08-30 -
网络语言的语类研究
北京BOB体官网手机版企业尚品中国:网络语言自产生以来已经引起语言学界、教育界等...
2012-08-21 -
南京BOB体官网手机版如何设计横幅图?
横幅设计其实是大家在BOB体官网手机版中最常见的工作。那么横幅到底是什么?Ban...
2022-07-14
预约专业咨询顾问沟通!
免责声明
非常感谢您访问大家的网站。在您使用本网站之前,请您仔细阅读本声明的所有条款。
1、BOB体官网手机版部分内容来源自网络,涉及到的部分文章和图片版权属于原编辑,BOB体官网手机版转载仅供大家学习和交流,切勿用于任何商业活动。
2、BOB体官网手机版不承担用户因使用这些资源对自己和他人造成任何形式的损失或伤害。
3、本声明未涉及的问题参见国家有关法律法规,当本声明与国家法律法规冲突时,以国家法律法规为准。
4、如果侵害了您的合法权益,请您及时与大家,大家会在第一时间删除相关内容!
联系方式:010-60259772
电子邮件:394588593@qq.com