技术导航网-广招网友投稿收录网站-五湖四海是一家
第八度搜索网(www.di8du.com)找网址大全,网站联盟,网址推广就上第八度!
技术导航,网址分类目录
百度360必应搜狗淘宝本站头条
【本站公告】:站长互助计划(凡站长权重≥1或收录≥1k贵站上本站友情链接-联系站长上首页热门推荐位)如果自动收录不能生效请手动提交 - 站长QQ:2710326966
当前位置:网站首页 > SEO看点 > 正文

程序中的robots.txt如何修改

站长搜索网 2020-01-29 22:49 1081 浏览 0 评论

robots.txt是什么:


robots.txt是一个纯文本文件,在这个文件中网站管理者可以声明该网站中不想被robots访问的部分,或者指定搜索引擎只收录指定的内容。

当一个搜索机器人(有的叫搜索蜘蛛)访问一个站点时,它会首先检查该站点根目录下是否存在robots.txt,如果存在,搜索机器人就会按照该文件中的内容来确定访问的范围;如果该文件不存在,那么搜索机器人就沿着链接抓取。

另外,robots.txt必须放置在一个站点的根目录下,而且文件名必须全部小写。

什么情况下可以修改:

当你在程序中新增加文件夹的时候,而且该文件夹不想被搜索引擎抓取时,就可以修改了,使用记事本打开,然后在最下面添加Disallow: /文件夹名称/即可。

一般情况下我们个人网站考虑不让搜索引擎抓取是出于保护隐私、增加安全性、做搜索引擎优化而进行的,按照这样的思路,哪些文件夹设置为拒绝抓取就一目了然了


版权声明:站长搜索网打造优质网址目录和最新资源资讯,请转载请注明出处!您的支持是我们最大的动力!

取消回复欢迎 发表评论:

请填写验证码