2016-09-04 分類: 網(wǎng)站建設(shè)
#
# robots.txt for PHPCMS v9
#
User-agent: * 這里的*代表的所有的搜索引擎種類,*是一個(gè)通配符
Disallow: /caches/禁止爬尋緩存目錄下的所有文件
Disallow: /phpcms/禁止爬尋phpcms的核心目錄下的目錄
Disallow: /install/禁止訪問(wèn)安裝包目錄下的目錄
Disallow: /phpsso_server/禁止爬尋phpsso_server目錄下的目錄
Disallow: /api/禁止爬尋接口目錄下的目錄
Disallow: /admin.php/ 這里定義是禁止蜘蛛爬尋admin目錄下面的目錄
上面的robots.txt文件的寫法,都是禁止蜘蛛爬尋相關(guān)目錄的,那么允許爬尋目錄怎么寫呢?
我們把上面的寫法改成允許蜘蛛爬尋目錄:只需把“Disallow”替換成“Allow”即可。當(dāng)然這樣做是沒(méi)有意義的,一般情況下,我們只寫禁止爬尋的目錄,默認(rèn)情況下都是允許訪問(wèn)的。
如果我們不設(shè)置禁止爬尋目錄會(huì)出現(xiàn)什么情況呢?
比如我們把上面的"Disallow: /admin.php/"改成"Allow: /admin.php/",
新聞名稱:PHPCMS v9 的robots.txt文件詳解
分享路徑:http://redsoil1982.com.cn/news/46116.html
成都網(wǎng)站建設(shè)公司_創(chuàng)新互聯(lián),為您提供外貿(mào)建站、網(wǎng)站設(shè)計(jì)公司、網(wǎng)站營(yíng)銷、面包屑導(dǎo)航、外貿(mào)網(wǎng)站建設(shè)、動(dòng)態(tài)網(wǎng)站
聲明:本網(wǎng)站發(fā)布的內(nèi)容(圖片、視頻和文字)以用戶投稿、用戶轉(zhuǎn)載內(nèi)容為主,如果涉及侵權(quán)請(qǐng)盡快告知,我們將會(huì)在第一時(shí)間刪除。文章觀點(diǎn)不代表本網(wǎng)站立場(chǎng),如需處理請(qǐng)聯(lián)系客服。電話:028-86922220;郵箱:631063699@qq.com。內(nèi)容未經(jīng)允許不得轉(zhuǎn)載,或轉(zhuǎn)載時(shí)需注明來(lái)源: 創(chuàng)新互聯(lián)
猜你還喜歡下面的內(nèi)容