文章详情
在编辑网页的时候我们需要用到robots协议，初学者可能不知道robots协议是什么？它的作用是什么？该怎么写呢？
1.robots协议是什么？
robots协议也叫 robots.txt（统一小写）是一种存放于网站根目录下的ASCII编码的文本文件，它通常告诉网络搜索引擎的漫游器（又称网络蜘蛛），此网站中的哪些内容是不应被搜索引擎的漫游器获取的，哪些是可以被漫游器获取的。
2.robots协议怎么写？
因为一些系统中的URL是大小写敏感的，所以robots.txt的文件名应统一为小写。
User-agent: *
Disallow:
allow:
"*"和"$"的含义
Baiduspider支持使用通配符"*"和"$"来模糊匹配url。
"$" 匹配行结束符。
"*" 匹配0或多个任意字符。
通常来说，对于一般的企业就可以这样去写robots协议了，如果在Disallow掉不想被搜索引擎抓取的文件即可，例如我们的网站数据，图片等等内容。学会了robots协议，才能够进行下一步学习。
来源：网站建设网
版权：所有文章为演示数据，版权归原作者所有，仅提供演示效果！
转载请注明出处：https://wzjianshe.com/seoyouhua/302.html
相关推荐
