robots文件必须是txt的吗
百度站长平台权威解答:HTML格式不行,必须是txt格式。
相关SEO术语解释:
robots.txt:Robots协议(也称为爬虫协议、机器人协议等)的全称是“网络爬虫排除标准”(RobotsExclusion Protocol),网站通过Robots协议告诉搜索引擎哪些页面可以抓取,哪些页面不能抓取。也叫机器人排除标准(Robots Exclusion Standard),网站使用的文本文件,用于与网络机器人(最常见的SE机器人)进行通信,以处理网站的每个页面。在这里,您可以将某些页面设置为漫游器的禁区,并仅扫描最有用的内容。
robots:Robots协议(也称为爬虫协议、机器人协议等)的全称是“网络爬虫排除标准”(RobotsExclusion Protocol),网站通过Robots协议告诉搜索引擎哪些页面可以抓取,哪些页面不能抓取。
HTML源代码:HTML源代码即网页源代码,通过语法规则可让图片、文字等内容在浏览器显示出来。HTML是用于创建网页和应用程序的标准标记语言。HTML源代码是我们在编译器将代码转换为你在浏览器中看到的内容之前可以修改代码的唯一阶段。你可以在任何浏览器中查看源代码(右键单击+在Chrome中检查,然后右键单击+在Firefox中查看页面源代码)。如果要修改它,建议使用纯文本或代码编辑器。大多数技术搜索引擎优化都是通过HTML代码完成的。
以上就是速优网络和大家分享的"robots文件必须是txt的吗",非常感谢您有耐心的读完这篇文章,我们将为您提供更多参考使用或学习交流的信息。我们还可为您提供:企业网站建设、网站仿制、网站复制、仿站、外贸网站建设、外贸建站、公司官网制作等服务,本公司以“诚信、专业、务实、创新”的服务理念服务于客户。如您需要合作,请扫码咨询,我们将诚挚为您服务。
TAG标签:域名备案