Googlebot 有哪幾種?
Googlebot 我們一般稱為谷歌機(jī)器人或谷歌探測(cè)器。
谷歌“派遣”了不同的Googlebot 對(duì)網(wǎng)頁(yè)內(nèi)容進(jìn)行獲取。主要包括:
Googlebot:主要抓取網(wǎng)頁(yè)中的文字內(nèi)容。獲取的內(nèi)容保存于谷歌網(wǎng)頁(yè)搜索和新聞搜索的數(shù)據(jù)庫(kù)。我們一般談的谷歌機(jī)器人主要指這個(gè)。
Googlebot-Mobile:主要抓取網(wǎng)頁(yè)中的文字內(nèi)容,用于谷歌手機(jī)搜索。
Googlebot-Image:主要抓取網(wǎng)頁(yè)內(nèi)的圖片內(nèi)容,保存入谷歌圖片搜索數(shù)據(jù)庫(kù)。
Mediapartners-Google:抓取網(wǎng)頁(yè)中的文字內(nèi)容,用于Google Adsense 分析關(guān)鍵詞。只有投放了Google Adsense 的網(wǎng)頁(yè)才會(huì)被 Mediapartners-Google 探測(cè)器爬取。
Adsbot-Google:抓取網(wǎng)頁(yè)中的文字內(nèi)容,用于為Google AdWords 提供參考。只有Google AdWords 的目標(biāo)網(wǎng)頁(yè)才會(huì)被 Adsbot-Google 探測(cè)器爬取。
Googlebot 和Mediapartners-Google 是非常勤奮的機(jī)器人,如果他們影響到你服務(wù)器的承受力,你可以通過(guò) robots.txt 文件加以制止。
如果您想進(jìn)一步了解相關(guān)知識(shí),可以參考以下資料: