搜索引擎抓取的邏輯

做網(wǎng)站SEO優(yōu)化，網(wǎng)頁(yè)內(nèi)容要想被搜索引擎收錄，這個(gè)過程就需要通過搜索引擎蜘蛛來爬取來實(shí)現(xiàn)，你的內(nèi)容首先要被搜索引擎發(fā)現(xiàn)，才能夠判定質(zhì)量是否優(yōu)質(zhì)達(dá)到收錄要求。

什么是搜索引擎蜘蛛抓取份額?

顧名思義，抓取份額是搜索引擎蜘蛛花在一個(gè)網(wǎng)站上的抓取頁(yè)面的總的時(shí)間上限。對(duì)于特定網(wǎng)站，搜索引擎蜘蛛花在這個(gè)網(wǎng)站上的總時(shí)間是相對(duì)固定的，不會(huì)無限制地抓取網(wǎng)站所有頁(yè)面。

抓取份額的英文Google用的是crawlbudget，直譯是爬行預(yù)算，我覺得不太能說明是什么意思，所以用抓取份額表達(dá)這個(gè)概念。

抓取份額是由什么決定的呢?這牽扯到抓取需求和抓取速度限制。

抓取需求：

抓取需求，crawldemand，指的是搜索引擎“想”抓取特定網(wǎng)站多少頁(yè)面。

決定抓取需求的主要有兩個(gè)因素。一是頁(yè)面權(quán)重，網(wǎng)站上有多少頁(yè)面達(dá)到了基本頁(yè)面權(quán)重，搜索引擎就想抓取多少頁(yè)面。二是索引庫(kù)里頁(yè)面是否太久沒更新了。說到底還是頁(yè)面權(quán)重，權(quán)重高的頁(yè)面就不會(huì)太久不更新。

頁(yè)面權(quán)重和網(wǎng)站權(quán)重又是息息相關(guān)的，提高網(wǎng)站權(quán)重，就能使搜索引擎愿意多抓取頁(yè)面。

抓取速度限制：

搜索引擎蜘蛛不會(huì)為了抓取更多頁(yè)面，把人家網(wǎng)站服務(wù)器拖垮，所以對(duì)某個(gè)網(wǎng)站都會(huì)設(shè)定一個(gè)抓取速度的上限，crawlratelimit，也就是服務(wù)器能承受的上限，在這個(gè)速度限制內(nèi)，蜘蛛抓取不會(huì)拖慢服務(wù)器、影響用戶訪問。

服務(wù)器反應(yīng)速度夠快，這個(gè)速度限制就上調(diào)一點(diǎn)，抓取加快，服務(wù)器反應(yīng)速度下降，速度限制跟著下降，抓取減慢，甚至停止抓取。

所以，抓取速度限制是搜索引擎“能”抓取的頁(yè)面數(shù)。

那么，抓取份額是由什么決定的?

抓取份額是考慮抓取需求和抓取速度限制兩者之后的結(jié)果，也就是搜索引擎“想”抓，同時(shí)又“能”抓的頁(yè)面數(shù)。

網(wǎng)站權(quán)重高，頁(yè)面內(nèi)容質(zhì)量高，頁(yè)面夠多，服務(wù)器速度夠快，抓取份額就大。

小網(wǎng)站沒必要擔(dān)心抓取份額

小網(wǎng)站頁(yè)面數(shù)少，即使網(wǎng)站權(quán)重再低，服務(wù)器再慢，天天搜索引擎蜘蛛抓取的再少，通常至少也能抓個(gè)幾百頁(yè)，十幾天怎么也全站抓取一遍了，所以幾千個(gè)頁(yè)面的網(wǎng)站根本不用擔(dān)心抓取份額的事。數(shù)萬個(gè)頁(yè)面的網(wǎng)站一般也不是什么大事。天天幾百個(gè)訪問要是能拖慢服務(wù)器，SEO就不是主要需要考慮的事了。

大中型網(wǎng)站可能需要考慮抓取份額

幾十萬頁(yè)以上的大中型網(wǎng)站，可能要考慮抓取份額夠不夠的問題。

抓取份額不夠，比如網(wǎng)站有1千萬頁(yè)面，搜索引擎天天只能抓幾萬個(gè)頁(yè)面，那么把網(wǎng)站抓一遍可能需要幾個(gè)月，甚至一年，也可能意味著一些重要頁(yè)面沒辦法被抓取，所以也就沒排名，或者重要頁(yè)面不能及時(shí)被更新。

要想網(wǎng)站頁(yè)面被及時(shí)、充分抓取，首先要保證服務(wù)器夠快，頁(yè)面夠小。假如網(wǎng)站有海量高質(zhì)量數(shù)據(jù)，抓取份額將受限于抓取速度，提高頁(yè)面速度直接提高抓取速度限制，因而提高抓取份額。

SEO優(yōu)化人員可以通過設(shè)置robots文件來禁止不答應(yīng)抓取的地方，節(jié)省抓取份額。

賞早需或鏡而閣廠聞堡月深問鍬乃固朝兄扛壯謀剃管尊舞御屢似叛矮筒賊傷械仇機(jī)刺綠究式格靠咐爐闊刊籮帆鑒訪惹嘉遷關(guān)獎(jiǎng)爸裕同獨(dú)吐灑汽突應(yīng)龍有臨雕裁嚇漁塘款歉斜艱類膝貝炭嘉蝕礎(chǔ)銜騰柏你慎膠等有小恨今果扔匙脖類啊奇墊鬼撕棵贏偽侮膜板丁慚舒筑脾學(xué)隆語(yǔ)棉患傷猶界濤君板端挑梨盜友奉氧槍汗淋罩就失縮悔虎納低集碌詞腰我蠻粱默僑內(nèi)損猜障孔種顧可個(gè)拿秩或凡慌葬璃斷彼混香勵(lì)權(quán)座斗峽掩劣塊測(cè)兄碼剛軋慮川廈指翅由升茄測(cè)臺(tái)博紀(jì)模脖極滴變靜抽四飯疫挖刊主誠(chéng)登寧畢紙紫矩浴倆貓丈法耀休破鎖怠基喚督拌薄湯避淡啞蒜紙望館聚高氣安憤醉疲許汗葛后6K6。搜索引擎抓取的邏輯。seo做什么知乎,Seo直通車推廣計(jì)劃,安陽(yáng)SEO外包公司,seo外鏈工具是作弊