Robots协议-用法举例

例1. 禁止所有搜索引擎访问网站的任何部分

User-agent: *

Disallow: /

例2. 允许所有的robot访问 （或者也可以建一个空文件 “/robots.txt” file）

User-agent: *

Allow:　/

例3. 仅禁止Baiduspider访问您的网站

User-agent: Baiduspider

Disallow: /

例4. 仅允许Baiduspider访问您的网站

User-agent: Baiduspider

Allow: /

User-agent: *

Disallow: /