SEO網(wǎng)站優(yōu)化robots.txt使用中常見的誤區(qū)
來源：尚品中國|
類型：網(wǎng)站百科
|時間：2012-04-28
網(wǎng)站制作公司尚品中國(m.trbqr.cn)：誤區(qū)1.Allow包含的范圍超過Disallow，并且位置在Disallow前面。
比如有很多人這樣寫：
User-agent: *
Allow: /
Disallow: /mulu/
想讓所有蜘蛛抓取本站除/mulu/下面的url之外的所有頁面，禁止抓取/mulu/下面的所有url。
SEO網(wǎng)站優(yōu)化搜索引擎蜘蛛執(zhí)行的規(guī)則是從上到下，這樣會造成第二句命令失效。也就是說禁止抓取/mulu/目錄這條規(guī)則是無效的。正確的是Disallow應(yīng)該在Allow之上，這樣才會生效。
誤區(qū)2.Disallow命令和Allow命令之后沒有以斜杠”/”開頭。
這個也很容易被忽視，比如有人這樣寫Disallow: 123.html ，這種是沒有效果的。斜杠”/”表示的是文件對于根目錄的位置，如果不帶的話，自然無法判斷url是哪個，所以是錯誤的。
正確的應(yīng)該是Disallow: /123.html，這樣才能屏蔽/123.html這個文件，這條規(guī)則才能生效。
誤區(qū)3.屏蔽的目錄后沒有帶斜杠”/”。
也就是比如想屏蔽抓取/mulu/這個目錄，有些人這樣寫Disallow: /mulu。那么這樣是否正確呢?
首先這樣寫(Disallow: /mulu)確實可以屏蔽/mulu/下面的所有url，不過同時也屏蔽了類似/mulu123.html這種開頭為/mulu的所有頁面，效果等同于Disallow: /mulu*。
正確的做法是，如果只想屏蔽目錄，那么必須在結(jié)尾帶上斜杠”/”。
本文發(fā)布于北京網(wǎng)站制作公司尚品中國http://m.trbqr.cn/
比如有很多人這樣寫：
User-agent: *
Allow: /
Disallow: /mulu/
想讓所有蜘蛛抓取本站除/mulu/下面的url之外的所有頁面，禁止抓取/mulu/下面的所有url。
SEO網(wǎng)站優(yōu)化搜索引擎蜘蛛執(zhí)行的規(guī)則是從上到下，這樣會造成第二句命令失效。也就是說禁止抓取/mulu/目錄這條規(guī)則是無效的。正確的是Disallow應(yīng)該在Allow之上，這樣才會生效。
誤區(qū)2.Disallow命令和Allow命令之后沒有以斜杠”/”開頭。
這個也很容易被忽視，比如有人這樣寫Disallow: 123.html ，這種是沒有效果的。斜杠”/”表示的是文件對于根目錄的位置，如果不帶的話，自然無法判斷url是哪個，所以是錯誤的。
正確的應(yīng)該是Disallow: /123.html，這樣才能屏蔽/123.html這個文件，這條規(guī)則才能生效。
誤區(qū)3.屏蔽的目錄后沒有帶斜杠”/”。
也就是比如想屏蔽抓取/mulu/這個目錄，有些人這樣寫Disallow: /mulu。那么這樣是否正確呢?
首先這樣寫(Disallow: /mulu)確實可以屏蔽/mulu/下面的所有url，不過同時也屏蔽了類似/mulu123.html這種開頭為/mulu的所有頁面，效果等同于Disallow: /mulu*。
正確的做法是，如果只想屏蔽目錄，那么必須在結(jié)尾帶上斜杠”/”。
本文發(fā)布于北京網(wǎng)站制作公司尚品中國http://m.trbqr.cn/
來源聲明：本文章系尚品中國編輯原創(chuàng)或采編整理，如需轉(zhuǎn)載請注明來自尚品中國。以上內(nèi)容部分(包含圖片、文字)來源于網(wǎng)絡(luò)，如有侵權(quán)，請及時與本站聯(lián)系（010-60259772）。
建站流程
-
網(wǎng)站需求
-
網(wǎng)站策劃方案
-
頁面設(shè)計風(fēng)格
-
確認(rèn)交付使用
-
資料錄入優(yōu)化
-
程序設(shè)計開發(fā)
-
后續(xù)跟蹤服務(wù)
-
聯(lián)系電話
010-60259772
熱門標(biāo)簽
- 網(wǎng)站建設(shè)
- 食品網(wǎng)站建設(shè)
- 微信小程序開發(fā)
- 小程序開發(fā)
- 無錫網(wǎng)站建設(shè)
- 研究所網(wǎng)站建設(shè)
- 沈陽網(wǎng)站建設(shè)
- 廊坊網(wǎng)站建設(shè)
- 鄭州網(wǎng)站建設(shè)
- 婚紗攝影網(wǎng)站建設(shè)
- 手機(jī)端網(wǎng)站建設(shè)
- 高校網(wǎng)站制作
- 天津網(wǎng)站建設(shè)
- 教育網(wǎng)站建設(shè)
- 品牌網(wǎng)站建設(shè)
- 政府網(wǎng)站建設(shè)
- 北京網(wǎng)站建設(shè)
- 網(wǎng)站設(shè)計
- 網(wǎng)站制作
最新文章
推薦新聞
更多行業(yè)-
讓百度超快速收錄你的文章
有收錄才有流量，做SEO的大抵都明白這個道理吧。那么，如何讓百度快速收...
2012-02-08 -
一個成功的網(wǎng)站是有很多方面都要做好的
一個成功的網(wǎng)站是有很多方面都要做好的。它的中文網(wǎng)站首頁非常的簡潔、高效...
2012-10-10 -
網(wǎng)站制作完成后sitemap如何制作？
網(wǎng)站里面的SITEMAP（網(wǎng)站地圖）：主要包含兩種類型，一種是xml地...
2018-12-07 -
網(wǎng)站優(yōu)化者十大基本能力
網(wǎng)站優(yōu)化者也就是我們所說的SEOER。作為SEOER不一定要會做網(wǎng)頁，...
2012-08-02 -
承德網(wǎng)站建設(shè)在設(shè)計方面的特色體現(xiàn)在哪里？
近年來，隨著承德網(wǎng)站建設(shè)的技術(shù)得到升級之后，可以說為客戶進(jìn)行建設(shè)網(wǎng)站的...
2020-07-13 -
企業(yè)網(wǎng)站設(shè)計優(yōu)化包括哪幾方面因素
在北京網(wǎng)站的設(shè)計中，網(wǎng)站的服務(wù)器和優(yōu)化看似是兩件事，其實是有聯(lián)系的。在...
2022-03-17
如果您的網(wǎng)站可以增加轉(zhuǎn)化次數(shù)并提高客戶滿意度，該怎么辦？
預(yù)約專業(yè)咨詢顧問溝通！
Copyright ? 2025 恒久尚品 版權(quán)所有 | 京ICP備09066521號
| 公安機(jī)關(guān)備案號:11011502003910
免責(zé)聲明
誠信企業(yè)
尚品專注高端網(wǎng)站建設(shè)，系統(tǒng)平臺開發(fā)，微信小程序及APP開發(fā)服務(wù)
尚品專注高端網(wǎng)站建設(shè)，系統(tǒng)平臺開發(fā)，微信小程序及APP開發(fā)服務(wù)
免責(zé)聲明
非常感謝您訪問我們的網(wǎng)站。在您使用本網(wǎng)站之前，請您仔細(xì)閱讀本聲明的所有條款。
1、本站部分內(nèi)容來源自網(wǎng)絡(luò)，涉及到的部分文章和圖片版權(quán)屬于原作者，本站轉(zhuǎn)載僅供大家學(xué)習(xí)和交流，切勿用于任何商業(yè)活動。
2、本站不承擔(dān)用戶因使用這些資源對自己和他人造成任何形式的損失或傷害。
3、本聲明未涉及的問題參見國家有關(guān)法律法規(guī)，當(dāng)本聲明與國家法律法規(guī)沖突時，以國家法律法規(guī)為準(zhǔn)。
4、如果侵害了您的合法權(quán)益，請您及時與我們,我們會在第一時間刪除相關(guān)內(nèi)容!
聯(lián)系方式：010-60259772
電子郵件：394588593@qq.com
