之前重庆seo技术有教过一篇写入htaccess文件,同时robots也可以用meta标签来设定一般robots偷懒一点的方式,可以直接写在原始码meta标签。

ROBOT META教学

meta标签针对robots主要可以区分为4种index:宣告机器人可以索引此页面follow;宣告机器人沿着该页面连结往下抓取nofollow;宣告机器人不要沿着该页面往下抓取none;忽略此网页,等于noindex,nofollowall;宣告机器人索引此网页,并通过网页上连结往下抓取,等于index,followINDEX,FOLLOWNOINDEX,FOLLOWINDEX,NOFOLLOWNOINDEX,NOFOLLOW其中可以用all取代。可以用none取代目前各大搜寻引擎都支援此指令,如果需要刻意让某一搜寻引擎抓取,即可以增加搜寻引擎名称。

百度搜索robots协议升级了

robots文件的作用就是声明本网站中不想被搜索引擎收录的部分或者指定搜索引擎只收录特定的部分。

9月11日,百度搜索robots全新升级。升级后robots将优化对网站视频URL收录抓取情况。仅当您的网站包含不希望被视频搜索引擎收录的内容时,才需要使用robots.txt文件。如果您希望搜索引擎收录网站上所有内容,重庆seo提醒您,请勿建立robots.txt文件。

如您的网站未设置robots协议,百度搜索对网站视频URL的收录将包含视频播放页URL,及页面中的视频文件、视频周边文本等信息,搜索对已收录的短视频资源将对用户呈现为视频极速体验页。此外,综艺影视类长视频,搜索引擎仅收录页面URL。

声明:本站所有文章,如无特殊说明或标注,均为本站原创发布。任何个人或组织,在未征得本站同意时,禁止复制、盗用、采集、发布本站内容到任何网站、书籍等各类媒体平台。如若本站内容侵犯了原著者的合法权益,可联系我们进行处理。