DotBot蜘蛛是國外Moz旗下鏈接分析網(wǎng)站opensiteexplorer的,DotBot蜘蛛專門用來分析網(wǎng)站的外鏈數(shù)據(jù)。
DotBot蜘蛛有用嗎?
DotBot蜘蛛主要還是給國外網(wǎng)站服務(wù)的,如果你的網(wǎng)站是做外貿(mào)的,那么DotBot蜘蛛對你的網(wǎng)站可能還有點用處,如果你的網(wǎng)站是中文網(wǎng)站,用戶也主要是國內(nèi)的,那么DotBot蜘蛛對你基本是沒有用處的,也不要指望DotBot蜘蛛能夠為你的網(wǎng)站帶來流量,它對你來說就是一個垃圾蜘蛛。DotBot蜘蛛需要屏蔽嗎?
DotBot蜘蛛的存在感其實比較低,一般對網(wǎng)站的影響也幾乎沒有,所以我們完全可以不用管它,它要抓取就讓它抓取好了。如果你的網(wǎng)站服務(wù)器性能比較差,擔心DotBot蜘蛛對你的速度產(chǎn)生負面影響,那么你可以選擇把它屏蔽。DotBot蜘蛛屏蔽方法如下:
在你的網(wǎng)站robot.txt文件中添加如下內(nèi)容User-agent: DotBot
Disallow: /