2013-06-18 分類: 網(wǎng)站建設(shè)
robots協(xié)議對網(wǎng)站優(yōu)化有什么影響?robots協(xié)議是引導(dǎo)蜘蛛對網(wǎng)站抓取的第一步協(xié)議,也是最關(guān)鍵的協(xié)議,robots協(xié)議就相當(dāng)于網(wǎng)站的大門,如果你把大門關(guān)上了那么客人就無法進入你的商店,你的商品再怎么物美價廉都無法被人們見到。
robots文件有什么作用?
1.保護我們網(wǎng)站的隱私內(nèi)容不被爬蟲抓取,表面透露隱私內(nèi)容。例如:用戶數(shù)據(jù)、管理員信息等。
2.我們可以利用好robots文件來做好網(wǎng)站的SEO優(yōu)化工作,比如清理網(wǎng)站死鏈的時候可以把死鏈接寫進robots文件,再或者可以將網(wǎng)站地圖寫進robots方便爬蟲一次性抓取網(wǎng)站內(nèi)容等等。
robots.txt文件使用誤區(qū)。
1、在robots.txt文件中設(shè)置不抓取整個網(wǎng)站內(nèi)容,不讓抓取意味著整個網(wǎng)站都不會被搜索引擎收錄,不被收錄的話,關(guān)鍵詞難以獲得排名,在好的營銷內(nèi)容,也難以被用戶看到。
2、在robots.txt文件中設(shè)置所有的文件都允許搜索引擎蜘蛛抓取,讓搜索引擎能夠收錄更多頁面。其實搜索引擎蜘蛛對于網(wǎng)站程序腳本、css樣式、js文件等,很難被搜索引擎收錄,就算收錄了,也只會浪費服務(wù)器資源,這種對網(wǎng)站保護性很差,對蜘蛛體驗不友好。
3、網(wǎng)站所有文件都可以被抓取,不去設(shè)置robots.txt文件,默認讓搜索引擎抓取整個的網(wǎng)站文件,這樣不更利于優(yōu)化?,F(xiàn)實不是這樣的,蜘蛛每次來抓取網(wǎng)站先會抓取robots.txt文件,如果文件不存在,蜘蛛就會認為是死鏈,就在網(wǎng)站日志記錄為死鏈,嚴重影響蜘蛛友好度。
總之robots協(xié)議是網(wǎng)站優(yōu)化中重要的優(yōu)化細節(jié),它能夠更好的引導(dǎo)蜘蛛對網(wǎng)站的抓取,避免蜘蛛對網(wǎng)站抓取出現(xiàn)問題,數(shù)據(jù)泄露等,因此在網(wǎng)站上線前,需檢查網(wǎng)站是否有添加網(wǎng)站robots.txt文件。
當(dāng)前題目:robots協(xié)議對網(wǎng)站優(yōu)化?有什么影響?
本文來源:http://redsoil1982.com.cn/news/1739.html
成都網(wǎng)站建設(shè)公司_創(chuàng)新互聯(lián),為您提供網(wǎng)站設(shè)計公司、面包屑導(dǎo)航、響應(yīng)式網(wǎng)站、全網(wǎng)營銷推廣、網(wǎng)站營銷、App開發(fā)
聲明:本網(wǎng)站發(fā)布的內(nèi)容(圖片、視頻和文字)以用戶投稿、用戶轉(zhuǎn)載內(nèi)容為主,如果涉及侵權(quán)請盡快告知,我們將會在第一時間刪除。文章觀點不代表本網(wǎng)站立場,如需處理請聯(lián)系客服。電話:028-86922220;郵箱:631063699@qq.com。內(nèi)容未經(jīng)允許不得轉(zhuǎn)載,或轉(zhuǎn)載時需注明來源: 創(chuàng)新互聯(lián)
猜你還喜歡下面的內(nèi)容