如何識(shí)別(bié)百(bǎi)度蜘蛛?
百(bǎi)度蜘(zhī)蛛(zhū)對(duì)於(yú)站長來說(shuō)可(kě)謂上(shàng)賓(bīn),可(kě)是我們曾經(jīng)遇到(dào)站(zhàn)長(cháng)這(zhè)樣(yàng)提問(wèn):我們如(rú)何判(pàn)斷瘋狂抓(zhuā)我(wǒ)們網站內(nèi)容的蜘蛛(zhū)是(shì)不是百(bǎi)度的?其(qí)實(shí)站長可(kě)以通過DNS反(fǎn)查IP的(dí)方式判(pàn)斷某隻spider是否來(lái)自(zì)百度搜索(suǒ)引擎。根據(jù)平(píng)台不同驗證(zhèng)方(fāng)法不(bù)同,如linux/windows/os三(sān)種(zhǒng)平台(tái)下的驗證方(fāng)法分別如(rú)下(xià):
1,在linux平台下,您(nín)可以(yǐ)使用host ip命令反解(jiě)ip來判(pàn)斷(duàn)是(shì)否來自Baiduspider的抓取。Baiduspider的hostname以 *.baidu.com 或(huò) *.baidu.jp 的格式命(mìng)名,非(fēi) *.baidu.com 或(huò) *.baidu.jp 即(jí)為冒充。
2,在windows平台或者(zhě)IBM OS/2平(píng)台下(xià),您可以使用nslookup ip命令(líng)反解ip來(lái) 判斷是否(fǒu)來(lái)自Baiduspider的抓(zhuā)取(qǔ)。打(dǎ)開(kāi)命令處(chǔ)理器(qì) 輸入nslookup xxx.xxx.xxx.xxx(IP地(dì) 址(zhǐ))就能解析ip, 來判斷是否來(lái)自(zì)Baiduspider的(dí)抓取(qǔ),Baiduspider的hostname以*.baidu.com 或*.baidu.jp 的(dí)格式命名(míng),非(fēi) *.baidu.com 或 *.baidu.jp 即為冒充。
3, 在(zài)mac os平(píng)台下(xià),您可以使用dig 命(mìng)令反解(jiě)ip來 判斷是否(fǒu)來自(zì)Baiduspider的抓(zhuā)取(qǔ)。打開(kāi)命(mìng)令(líng)處理器 輸(shū)入(rù)dig xxx.xxx.xxx.xxx(IP地(dì) 址)就(jiù)能解(jiě)析(xī)ip, 來判斷(duàn)是(shì)否(fǒu)來(lái)自(zì)Baiduspider的抓取(qǔ),Baiduspider的hostname以 *.baidu.com 或*.baidu.jp 的格式命(mìng)名,非 *.baidu.com 或(huò) *.baidu.jp 即(jí)為冒充。