当前位置:优站分类目录 » 站长资讯 » 业界资讯 » 文章详细

禁止搜索引擎抓取本页面的方法

来源:本站原创 时间:2014-03-25目录:业界资讯浏览:1652次 
在网站优化过程中、有时还是会要用到禁止搜索引擎抓取某单个页面,而这种情况如果动态、一般都会使用“Robots.txt ”屏蔽。

  META标签最常用:

  <meta name="description"content="" />

  <meta name="keywords" content="" />

  而对于用来屏蔽搜索引擎蜘蛛或允许比较少见:

  <META NAME="ROBOTS" CONTENT="NOINDEX,FOLLOW">

  NAME="ROBOTS"    //是泛指所有的搜索引擎,也可以特指某个搜索引擎,例如META NAME="Googlebot"、META NAME="Baiduspide"

  content=“index”//部分有四个命令:index、noindex、follow、nofollow

  INDEX命令:告诉搜索引擎抓取这个页面

  FOLLOW命令:告诉搜索引擎可以从这个页面上找到链接,然后继续访问抓取下去。

  NOINDEX命令:告诉搜索引擎不允许抓取这个页面

  NOFOLLOW命令:告诉搜索引擎不允许从此页找到链接、拒绝其继续访问。


 根据以上的命令,我们就有了一下的四种组合

  <META NAME="ROBOTS" CONTENT="INDEX,FOLLOW" >:可以抓取本页,而且可以顺着本页继续索引别的链接
  <META NAME="ROBOTS" CONTENT="NOINDEX,FOLLOW">:不许抓取本页,但是可以顺着本页抓取索引别的链接
  <META NAME="ROBOTS" CONTENT="INDEX,NOFOLLOW">:可以抓取本页,但是不许顺着本页抓取索引别的链接
  <META NAME="ROBOTS" CONTENT="NOINDEX,NOFOLLOW">:不许抓取本页,也不许顺着本页抓取索引别的链接。