立即注册 找回密码

雷州人网

搜索
热搜: 活动 交友 discuz
雷州人网 门户 新闻 国内新闻 查看内容

Robots

2020-3-8 21:12| 发布者: 雷州人| 查看: 231| 评论: 0

摘要:   1. robots.txt可以告诉百度您网站的哪些页面可以被抓取,哪些页面不可以被抓取。   2. 您可以通过Robots工具来创建、校验、更新您的robots.txt文件,或查看您网站robots.txt文件在百度生效的情况。   3. Rob ...

  1. robots.txt可以告诉百度您网站的哪些页面可以被抓取,哪些页面不可以被抓取。

  2. 您可以通过Robots工具来创建、校验、更新您的robots.txt文件,或查看您网站robots.txt文件在百度生效的情况。

  3. Robots工具目前支持48k的文件内容检测,请保证您的robots.txt文件不要过大,目录最长不超过250个字符。


鲜花

握手

雷人

路过

鸡蛋

最新评论

关注微信,有惊喜
关注我们,每天有惊喜,每日有活动,每日有礼品赠送,扫描左边二维码,即可关注,你还在等什么?

Archiver|手机版|小黑屋|雷州人论坛.

GMT+8, 2025-6-29 09:13 , Processed in 0.040894 second(s), 15 queries .

Powered by Discuz! X3.4 © 2001-2013 Comsenz Inc

返回顶部