SEO網(wǎng)站優(yōu)化robots.txt使用中常見的誤區(qū)
比如有很多人這樣寫:
User-agent: *
Allow: /
Disallow: /mulu/
想讓所有蜘蛛抓取本站除/mulu/下面的url之外的所有頁面,禁止抓取/mulu/下面的所有url。
SEO網(wǎng)站優(yōu)化搜索引擎蜘蛛執(zhí)行的規(guī)則是從上到下,這樣會造成第二句命令失效。也就是說禁止抓取/mulu/目錄這條規(guī)則是無效的。正確的是Disallow應(yīng)該在Allow之上,這樣才會生效。
誤區(qū)2.Disallow命令和Allow命令之后沒有以斜杠”/”開頭。
這個(gè)也很容易被忽視,比如有人這樣寫Disallow: 123.html ,這種是沒有效果的。斜杠”/”表示的是文件對于根目錄的位置,如果不帶的話,自然無法判斷url是哪個(gè),所以是錯(cuò)誤的。
正確的應(yīng)該是Disallow: /123.html,這樣才能屏蔽/123.html這個(gè)文件,這條規(guī)則才能生效。
誤區(qū)3.屏蔽的目錄后沒有帶斜杠”/”。
也就是比如想屏蔽抓取/mulu/這個(gè)目錄,有些人這樣寫Disallow: /mulu。那么這樣是否正確呢?
首先這樣寫(Disallow: /mulu)確實(shí)可以屏蔽/mulu/下面的所有url,不過同時(shí)也屏蔽了類似/mulu123.html這種開頭為/mulu的所有頁面,效果等同于Disallow: /mulu*。
正確的做法是,如果只想屏蔽目錄,那么必須在結(jié)尾帶上斜杠”/”。
本文發(fā)布于北京網(wǎng)站制作公司尚品中國http://proteomeinstitute.com/
建站流程
-
網(wǎng)站需求
-
網(wǎng)站策劃方案
-
頁面設(shè)計(jì)風(fēng)格
-
確認(rèn)交付使用
-
資料錄入優(yōu)化
-
程序設(shè)計(jì)開發(fā)
-
后續(xù)跟蹤服務(wù)
-
聯(lián)系電話
010-60259772
熱門標(biāo)簽
- 網(wǎng)站建設(shè)
- 食品網(wǎng)站建設(shè)
- 微信小程序開發(fā)
- 小程序開發(fā)
- 無錫網(wǎng)站建設(shè)
- 研究所網(wǎng)站建設(shè)
- 沈陽網(wǎng)站建設(shè)
- 廊坊網(wǎng)站建設(shè)
- 鄭州網(wǎng)站建設(shè)
- 婚紗攝影網(wǎng)站建設(shè)
- 手機(jī)端網(wǎng)站建設(shè)
- 高校網(wǎng)站制作
- 天津網(wǎng)站建設(shè)
- 教育網(wǎng)站建設(shè)
- 品牌網(wǎng)站建設(shè)
- 政府網(wǎng)站建設(shè)
- 北京網(wǎng)站建設(shè)
- 網(wǎng)站設(shè)計(jì)
- 網(wǎng)站制作
最新文章
推薦新聞
更多行業(yè)-
建設(shè)企業(yè)官網(wǎng)有哪些好的方法?帶你一起來看看
在互聯(lián)網(wǎng)發(fā)展的早期,一些有品牌意識的企業(yè)建立了自己的官方網(wǎng)站,用官方網(wǎng)...
2020-07-03 -
搜索引擎策略概念及特點(diǎn)
搜索引擎策略概念搜索引擎策略,就是合理利用目標(biāo)顧客使用搜索引擎網(wǎng)站制作...
2012-08-31 -
網(wǎng)站建設(shè)方案:產(chǎn)品網(wǎng)站設(shè)計(jì)如何做規(guī)劃?
在數(shù)字時(shí)代的今天,一些成功的企業(yè)都選擇了一個(gè)引人注目、功能強(qiáng)大的產(chǎn)品網(wǎng)...
2023-11-26 -
鄭州網(wǎng)站建設(shè)seo技術(shù)的核心是什么?
接觸seo半年多了,手上也有一些成功的案例。最近很多朋友都有些迷茫,我...
2021-09-29 -
網(wǎng)站建設(shè)要符合SEO優(yōu)化標(biāo)準(zhǔn)有什么特點(diǎn)?
網(wǎng)站建設(shè)時(shí)要考慮網(wǎng)站參與排名的問題;做一個(gè)適合優(yōu)化排名的網(wǎng)站,前提是解...
2022-06-30 -
如何掌握網(wǎng)站的規(guī)劃和設(shè)計(jì)方法
掌握網(wǎng)站的規(guī)劃和設(shè)計(jì)方法,使我對日常網(wǎng)站建設(shè)有了深層次的感性和理性認(rèn)識...
2012-09-12
預(yù)約專業(yè)咨詢顧問溝通!
免責(zé)聲明
非常感謝您訪問我們的網(wǎng)站。在您使用本網(wǎng)站之前,請您仔細(xì)閱讀本聲明的所有條款。
1、本站部分內(nèi)容來源自網(wǎng)絡(luò),涉及到的部分文章和圖片版權(quán)屬于原作者,本站轉(zhuǎn)載僅供大家學(xué)習(xí)和交流,切勿用于任何商業(yè)活動。
2、本站不承擔(dān)用戶因使用這些資源對自己和他人造成任何形式的損失或傷害。
3、本聲明未涉及的問題參見國家有關(guān)法律法規(guī),當(dāng)本聲明與國家法律法規(guī)沖突時(shí),以國家法律法規(guī)為準(zhǔn)。
4、如果侵害了您的合法權(quán)益,請您及時(shí)與我們,我們會在第一時(shí)間刪除相關(guān)內(nèi)容!
聯(lián)系方式:010-60259772
電子郵件:394588593@qq.com