国产成人精品999视频&日本一区二区亚洲人妻精品&久久久精品国产99久久精&99热这里只有成人精品国产&精品国产剧情av一区二区&成人亚洲精品久久久久app&国产精品美女高潮抽搐A片

Categories


Tags


常見(jiàn)Robots名字

名稱 搜索引擎

google蜘蛛: googlebot

百度蜘蛛:baiduspider

yahoo蜘蛛:slurp

alexa蜘蛛:ia_archiver

msn蜘蛛:msnbot

altavista蜘蛛:scooter

lycos蜘蛛: lycos_spider_(t-rex)

alltheweb蜘蛛: fast-webcrawler/

inktomi蜘蛛: slurp

一個(gè)在線寫(xiě)robots.txt的工具。

最后需要注意,robots.txt文件名必須是小寫(xiě),而且放在網(wǎng)站根目錄

來(lái)源:360站長(zhǎng)平臺(tái)


Public @ 2013-05-19 16:09:03

怎么做301轉(zhuǎn)向

如果網(wǎng)站使用LAMP(Linux+Apache+MySQL+PHP)主機(jī),可以使用.htaccess文件做301轉(zhuǎn)向。.htaccess是一個(gè)普通文字文件,用Notepad等文字編輯軟件創(chuàng)建和編輯,存在網(wǎng)站根目錄下。.htaccess文件中的指令用于目錄特定操作,如轉(zhuǎn)向、錯(cuò)誤處理、密碼保護(hù)等。如果網(wǎng)站用的是Windows主機(jī),可以在控制面板做301轉(zhuǎn)向設(shè)定。純靜態(tài)HTML頁(yè)面無(wú)法做301轉(zhuǎn)向。在H

Public @ 2018-08-02 16:09:37

常見(jiàn)的robots.txt文件用法實(shí)例

常見(jiàn)的robots.txt文件用法實(shí)例:1、禁止所有搜索引擎抓取網(wǎng)站的任何部分User-agent: *Disallow: /這是禁止所有目錄和文件被所有搜索引擎收錄。網(wǎng)站還沒(méi)上線時(shí),有的會(huì)先屏蔽所有蜘蛛抓取。2、允許所有的spider抓取(或者也可以建一個(gè)空的robots.txt文件)User-agent: *Allow: /這是允許所有搜索引擎抓取網(wǎng)站的任何部分,既然是允許所有文件被抓取,可以

Public @ 2010-05-21 16:09:23

玩轉(zhuǎn)robots協(xié)議

2013年2月8日北京市第一中級(jí)人民法院正式受理了百度訴奇虎360違反“Robots協(xié)議”抓取、復(fù)制其網(wǎng)站內(nèi)容的不正當(dāng)競(jìng)爭(zhēng)行為一案,索賠金額高達(dá)一億元,這可以看做2012年下半年“3B大戰(zhàn)”的繼續(xù)。在此次索賠案件中,百度稱自己的Robots文本中已設(shè)定不允許360爬蟲(chóng)進(jìn)入,而360的爬蟲(chóng)依然對(duì)“百度知道”、“百度百科”等百度網(wǎng)站內(nèi)容進(jìn)行抓取。其實(shí)早在2012年11月初,針對(duì)雙方摩擦加劇的情況,在中

Public @ 2019-05-13 16:09:21

更多您感興趣的搜索

0.452300s