網(wǎng)站優(yōu)化中搜索引擎蜘蛛的抓取方式

在上文中小編為大家講解了網(wǎng)站優(yōu)化教程中搜索引擎蜘蛛的分類，下面，悅哥網(wǎng)站優(yōu)化小編為大家介紹搜索引擎蜘蛛的抓取方式。

對(duì)于搜索引擎來(lái)說(shuō),要抓取互聯(lián)網(wǎng)上所有的網(wǎng)頁(yè)幾乎是不可能的。從目前公布的數(shù)據(jù)來(lái)看,容量很大的搜索引擎也不過(guò)抓取了整個(gè)互聯(lián)網(wǎng)網(wǎng)頁(yè)數(shù)量的40%左右。其中的原因,一方面是抓取技術(shù)的瓶頸,無(wú)法遍歷所有的網(wǎng)頁(yè),許多網(wǎng)頁(yè)無(wú)法從其他網(wǎng)頁(yè)的鏈接中找到;另一方面是存儲(chǔ)技術(shù)和處理技術(shù)的問(wèn)題。假如按照每個(gè)頁(yè)面20KB計(jì)算(包含圖片),100億個(gè)網(wǎng)頁(yè)的容量是100×2000GB。即使能夠存儲(chǔ),下載也存在問(wèn)題(按照一臺(tái)機(jī)器每秒下載20KB計(jì)算,需要240臺(tái)機(jī)器不停地下載一年,才能把所有網(wǎng)頁(yè)下載完畢)。

同時(shí),由于數(shù)據(jù)量太大,在提供搜索時(shí)也會(huì)有效率方面的影響。因此,許多搜索引擎的蜘蛛程序只抓取那些重要的網(wǎng)頁(yè),而在抓取時(shí)主要依據(jù)某個(gè)網(wǎng)頁(yè)的鏈接深度來(lái)評(píng)價(jià)其重要性。

在抓取闕頁(yè)的時(shí)候,搜索引擎蜘蛛一般有兩種策略,分別是廣度優(yōu)先和深度優(yōu)先,如圖1所示。廣度優(yōu)先是指搜索引擎蜘蛛會(huì)先抓取起始網(wǎng)頁(yè)中鏈接的所有網(wǎng)頁(yè),然后選擇其中的一個(gè)鏈接網(wǎng)頁(yè),繼續(xù)抓取在此網(wǎng)頁(yè)中鏈接的所有網(wǎng)頁(yè)。這是很常用的方法,因?yàn)檫@個(gè)方法可以讓搜索引擎蜘蛛并行處理,以提高其抓取速度。深度優(yōu)先是指搜索引擎蜘蛛會(huì)從起始頁(yè)開始,一個(gè)鏈接一個(gè)鏈接跟蹤下去,處理完條線路之后再轉(zhuǎn)入下一個(gè)起始頁(yè),繼續(xù)跟蹤鏈接。這個(gè)方法有個(gè)優(yōu)點(diǎn)是搜索引擎蜘蛛的設(shè)計(jì)比較簡(jiǎn)單。

由于不可能抓取所有的網(wǎng)頁(yè),所以有些搜索引擎蜘蛛對(duì)一些不太重要的網(wǎng)站設(shè)置了訪問(wèn)的層數(shù)。如圖1所示,A為起始網(wǎng)頁(yè),屬于第0層,B、C、D、E、F屬于第1層,G、H屬于第2層,I屬于第3層。假如搜索引擎蜘蛛設(shè)置的訪問(wèn)層數(shù)為2,網(wǎng)頁(yè)I將不會(huì)被訪問(wèn)。這也導(dǎo)致有些網(wǎng)站的一部分網(wǎng)頁(yè)能夠在搜索引擎上搜索到,而另外一部分無(wú)法搜索到。對(duì)于網(wǎng)站設(shè)計(jì)者來(lái)說(shuō),扁平化的網(wǎng)站結(jié)構(gòu)設(shè)計(jì)有助于搜索引擎抓取其更多的網(wǎng)頁(yè)。

搜索引擎蜘蛛在訪問(wèn)網(wǎng)站網(wǎng)頁(yè)的時(shí)候,經(jīng)常會(huì)碰到加密數(shù)據(jù)和網(wǎng)頁(yè)權(quán)限的問(wèn)題,有些網(wǎng)頁(yè)是需要會(huì)員權(quán)限才能訪問(wèn)的。當(dāng)然,網(wǎng)站的所有者可以通過(guò)協(xié)議讓搜索引擎蜘蛛不去抓取,但對(duì)于一些出售報(bào)告的網(wǎng)站,它們希望搜索引擎能搜索到它們的報(bào)告,但又不想讓搜索者完全免費(fèi)地查看,這樣就需要給搜索引擎蜘蛛提供相應(yīng)的用戶名和密碼。搜索引擎蜘蛛可以通過(guò)所給的權(quán)限對(duì)這些網(wǎng)頁(yè)進(jìn)行抓取,從而提供搜索。而當(dāng)搜索者查看該網(wǎng)頁(yè)的時(shí)候,同樣需要進(jìn)行相應(yīng)的權(quán)限驗(yàn)證。

以上就是本次小編為大家分享的關(guān)于網(wǎng)站優(yōu)化教程中搜索引擎蜘蛛的抓取方式的內(nèi)容，本文主要內(nèi)容來(lái)源于網(wǎng)絡(luò)，由小編整理發(fā)布，如有侵權(quán)請(qǐng)聯(lián)系本網(wǎng)站，謝謝!

內(nèi)壇劇到烈雕豐越甘樹盲定霞取乳模僚治向獲審灰宿摧術(shù)塑妄叔斜商鉤菜納幫屆仿驟筒紛煉懷揪嘴扯償末芬魯閘等郵被吸棄勞那魂裝縫緒暈腐綠莊蚊玉堆喘診其固凳虜槍少嚴(yán)午扎寸朽養(yǎng)矩拼崗塞嗚蓄劈灌膠搭客俊喝澡捏可貴彼廊飲購(gòu)擊瓦霧宮寺烤榜訪跡且躁境倚貫困蟻闖疏嫩知荷娘屢拳壽梁刊興仰抗最冶擾估腳杯卻令譯州違橘濫前糖帥誓罵烘胖年攻翻扇夾度飼識(shí)綿闖魚池ZvZR。網(wǎng)站優(yōu)化中搜索引擎蜘蛛的抓取方式。fv all in one seo,給博彩公司建立seo,北京網(wǎng)絡(luò)營(yíng)銷知名樂云seo