聊城市云聯(lián)網(wǎng)絡(luò)科技有限公司是一家專注為中小企業(yè)提供互聯(lián)網(wǎng)營銷服務(wù)的創(chuàng)新型企業(yè),為企業(yè)用戶提供多元、高效、易用的互聯(lián)網(wǎng)工具,云聯(lián)已幫助數(shù)千家企業(yè)用戶有效地提升消費(fèi)者體驗(yàn)與互聯(lián)網(wǎng)營銷核心競(jìng)爭(zhēng)力。
   我們的主要業(yè)務(wù)有:聊城企業(yè)官方網(wǎng)站開發(fā)建設(shè)、聊城網(wǎng)站推廣、聊城網(wǎng)站優(yōu)化、網(wǎng)站托管;聊城淘寶店鋪裝修、托管;企業(yè)彩鈴、400電話辦理等業(yè)務(wù)。"/>
  購物車 (0)  
親,您的購物車空空的喲~
去購物車結(jié)算
云聯(lián)網(wǎng)絡(luò)科技有限公司
Cloud Link Network Technology Co., Ltd.

免費(fèi)服務(wù)熱線:13287598506
在線咨詢

創(chuàng)建網(wǎng)站不知從何開始?

撥打銷售熱線,直接對(duì)話專家

13287598506

如有疑問:


填寫信息,讓專家聯(lián)系您
公司名稱*
手機(jī)號(hào)碼*
選擇版本*
聯(lián)系人*
所在城市*
郵箱地址*
驗(yàn)證碼*
 看不清?換一張
新聞詳情

聊城網(wǎng)站建設(shè)分析百度搜索引擎工作原理

來源:聊城市云聯(lián)網(wǎng)絡(luò)科技有限公司作者:聊城市云聯(lián)網(wǎng)絡(luò)科技有限公司網(wǎng)址:http://www.indian-babes69.com


  關(guān)于百度以及其它搜索引擎的工作原理,其實(shí)大家已經(jīng)討論過很多,但隨著科技的進(jìn)步、互聯(lián)網(wǎng)業(yè)的發(fā)展,各家搜索引擎都發(fā)生著巨大的變化,并且這些變化都是飛快的。我們?cè)O(shè)計(jì)這個(gè)章節(jié)的目的,除了從官方的角度發(fā)出一些聲音、糾正一些之前的誤讀外,還希望通過不斷更新內(nèi)容,與百度搜索引擎發(fā)展保持同步,給各位站長(zhǎng)帶來最新的、與百度高相關(guān)的信息。

  本章主要內(nèi)容分為四個(gè)章節(jié),分別為:抓取建庫;檢索排序;外部投票;結(jié)果展現(xiàn)。


  第一節(jié)-抓取建庫

  Spider抓取系統(tǒng)的基本框架

  互聯(lián)網(wǎng)信息爆發(fā)式增長(zhǎng),如何有效的獲取并利用這些信息是搜索引擎工作中的首要環(huán)節(jié)。數(shù)據(jù)抓取系統(tǒng)作為整個(gè)搜索系統(tǒng)中的上游,主要負(fù)責(zé)互聯(lián)網(wǎng)信息的搜集、保存、更新環(huán)節(jié),它像蜘蛛一樣在網(wǎng)絡(luò)間爬來爬去,因此通常會(huì)被叫做“spider”。例如我們常用的幾家通用搜索引擎蜘蛛被稱為:Baiduspdier、Googlebot、Sogou Web Spider等。

  Spider抓取系統(tǒng)是搜索引擎數(shù)據(jù)來源的重要保證,如果把web理解為一個(gè)有向圖,那么spider的工作過程可以認(rèn)為是對(duì)這個(gè)有向圖的遍歷。從一些重要的種子 URL開始,通過頁面上的超鏈接關(guān)系,不斷的發(fā)現(xiàn)新URL并抓取,盡最大可能抓取到更多的有價(jià)值網(wǎng)頁。對(duì)于類似百度這樣的大型spider系統(tǒng),因?yàn)槊繒r(shí) 每刻都存在網(wǎng)頁被修改、刪除或出現(xiàn)新的超鏈接的可能,因此,還要對(duì)spider過去抓取過的頁面保持更新,維護(hù)一個(gè)URL庫和頁面庫。

  下圖為spider抓取系統(tǒng)的基本框架圖,其中包括鏈接存儲(chǔ)系統(tǒng)、鏈接選取系統(tǒng)、dns解析服務(wù)系統(tǒng)、抓取調(diào)度系統(tǒng)、網(wǎng)頁分析系統(tǒng)、鏈接提取系統(tǒng)、鏈接分析系統(tǒng)、網(wǎng)頁存儲(chǔ)系統(tǒng)。Baiduspider即是通過這種系統(tǒng)的通力合作完成對(duì)互聯(lián)網(wǎng)頁面的抓取工作。

  Baiduspider 主要抓取策略類型

  上圖看似簡(jiǎn)單,但其實(shí)Baiduspider在抓取過程中面對(duì)的是一個(gè)超級(jí)復(fù)雜的網(wǎng)絡(luò)環(huán)境,為了使系統(tǒng)可以抓取到盡可能多的有價(jià)值資源并保持系統(tǒng)及實(shí)際環(huán)境中頁面的一致性同時(shí)不給網(wǎng)站體驗(yàn)造成壓力,會(huì)設(shè)計(jì)多種復(fù)雜的抓取策略。以下做簡(jiǎn)單介紹:

  1、抓取友好性

  互聯(lián)網(wǎng)資源龐大的數(shù)量級(jí),這就要求抓取系統(tǒng)盡可能的高效利用帶寬,在有限的硬件和帶寬資源下盡可能多的抓取到有價(jià)值資源。這就造成了另一個(gè)問題,耗費(fèi)被抓網(wǎng)站的帶寬造成訪問壓力,如果程度過大將直接影響被抓網(wǎng)站的正常用戶訪問行為。因此,在抓取過程中就要進(jìn)行一定的抓取壓力控制,達(dá)到既不影響網(wǎng)站的正常用戶訪問又能盡量多的抓取到有價(jià)值資源的目的。

  通常情況下,最基本的是基于ip的壓力控制。這是因?yàn)槿绻谟蛎?,可能存在一個(gè)域名對(duì)多個(gè)ip(很多大網(wǎng)站)或多個(gè)域名對(duì)應(yīng)同一個(gè)ip(小網(wǎng)站共享ip)的問題。實(shí)際中,往往根據(jù)ip及域名的多種條件進(jìn)行壓力調(diào)配控制。同時(shí),站長(zhǎng)平臺(tái)也推出了壓力反饋工具,站長(zhǎng)可以人工調(diào)配對(duì)自己網(wǎng)站的抓取壓力,這時(shí)百度spider將優(yōu)先按照站長(zhǎng)的要求進(jìn)行抓取壓力控制。

  對(duì)同一個(gè)站點(diǎn)的抓取速度控制一般分為兩類:其一,一段時(shí)間內(nèi)的抓取頻率;其二,一段時(shí)間內(nèi)的抓取流量。同一站點(diǎn)不同的時(shí)間抓取速度也會(huì)不同,例如夜深人靜月黑風(fēng)高時(shí)候抓取的可能就會(huì)快一些,也視具體站點(diǎn)類型而定,主要思想是錯(cuò)開正常用戶訪問高峰,不斷的調(diào)整。對(duì)于不同站點(diǎn),也需要不同的抓取速度。

  2、常用抓取返回碼示意

  簡(jiǎn)單介紹幾種百度支持的返回碼:

  1)最常見的404代表“NOT FOUND”,認(rèn)為網(wǎng)頁已經(jīng)失效,通常將在庫中刪除,同時(shí)短期內(nèi)如果spider再次發(fā)現(xiàn)這條url也不會(huì)抓??;

  2)503代表“Service Unavailable”,認(rèn)為網(wǎng)頁臨時(shí)不可訪問,通常網(wǎng)站臨時(shí)關(guān)閉,帶寬有限等會(huì)產(chǎn)生這種情況。對(duì)于網(wǎng)頁返回503狀態(tài)碼,百度spider不會(huì)把這條url直接刪除,同時(shí)短期內(nèi)將會(huì)反復(fù)訪問幾次,如果網(wǎng)頁已恢復(fù),則正常抓取;如果繼續(xù)返回503,那么這條url仍會(huì)被認(rèn)為是失效鏈接,從庫中刪除。

  3)403代表“Forbidden”,認(rèn)為網(wǎng)頁目前禁止訪問。如果是新url,spider暫時(shí)不抓取,短期內(nèi)同樣會(huì)反復(fù)訪問幾次;如果是已收錄url,不會(huì)直接刪除,短期內(nèi)同樣反復(fù)訪問幾次。如果網(wǎng)頁正常訪問,則正常抓??;如果仍然禁止訪問,那么這條url也會(huì)被認(rèn)為是失效鏈接,從庫中刪除。

  4)301代表是“Moved Permanently”,認(rèn)為網(wǎng)頁重定向至新url。當(dāng)遇到站點(diǎn)遷移、域名更換、站點(diǎn)改版的情況時(shí),我們推薦使用301返回碼,同時(shí)使用站長(zhǎng)平臺(tái)網(wǎng)站改版工具,以減少改版對(duì)網(wǎng)站流量造成的損失。

  3、多種url重定向的識(shí)別

  互聯(lián)網(wǎng)中一部分網(wǎng)頁因?yàn)楦鞣N各樣的原因存在url重定向狀態(tài),為了對(duì)這部分資源正常抓取,就要求spider對(duì)url重定向進(jìn)行識(shí)別判斷,同時(shí)防止作弊行為。重定向可分為三類:http 30x重定向、meta refresh重定向和js重定向。另外,百度也支持Canonical標(biāo)簽,在效果上可以認(rèn)為也是一種間接的重定向。

  4、抓取優(yōu)先級(jí)調(diào)配

  由于互聯(lián)網(wǎng)資源規(guī)模的巨大以及迅速的變化,對(duì)于搜索引擎來說全部抓取到并合理的更新保持一致性幾乎是不可能的事情,因此這就要求抓取系統(tǒng)設(shè)計(jì)一套合理的抓取優(yōu)先級(jí)調(diào)配策略。主要包括:深度優(yōu)先遍歷策略、寬度優(yōu)先遍歷策略、pr優(yōu)先策略、反鏈策略、社會(huì)化分享指導(dǎo)策略等等。每個(gè)策略各有優(yōu)劣,在實(shí)際情況中往往是多種策略結(jié)合使用以達(dá)到最優(yōu)的抓取效果。

  5、重復(fù)url的過濾

  spider在抓取過程中需要判斷一個(gè)頁面是否已經(jīng)抓取過了,如果還沒有抓取再進(jìn)行抓取網(wǎng)頁的行為并放在已抓取網(wǎng)址集合中。判斷是否已經(jīng)抓取其中涉及到最核心的是快速查找并對(duì)比,同時(shí)涉及到url歸一化識(shí)別,例如一個(gè)url中包含大量無效參數(shù)而實(shí)際是同一個(gè)頁面,這將視為同一個(gè)url來對(duì)待。

  6、暗網(wǎng)數(shù)據(jù)的獲取

  互聯(lián)網(wǎng)中存在著大量的搜索引擎暫時(shí)無法抓取到的數(shù)據(jù),被稱為暗網(wǎng)數(shù)據(jù)。一方面,很多網(wǎng)站的大量數(shù)據(jù)是存在于網(wǎng)絡(luò)數(shù)據(jù)庫中,spider難以采用抓取網(wǎng)頁的方式獲得完整內(nèi)容;另一方面,由于網(wǎng)絡(luò)環(huán)境、網(wǎng)站本身不符合規(guī)范、孤島等等問題,也會(huì)造成搜索引擎無法抓取。目前來說,對(duì)于暗網(wǎng)數(shù)據(jù)的獲取主要思路仍然是通過開放平臺(tái)采用數(shù)據(jù)提交的方式來解決,例如“百度站長(zhǎng)平臺(tái)”“百度開放平臺(tái)”等等。

  7、抓取反作弊

  spider在抓取過程中往往會(huì)遇到所謂抓取黑洞或者面臨大量低質(zhì)量頁面的困擾,這就要求抓取系統(tǒng)中同樣需要設(shè)計(jì)一套完善的抓取反作弊系統(tǒng)。例如分析url特征、分析頁面大小及內(nèi)容、分析站點(diǎn)規(guī)模對(duì)應(yīng)抓取規(guī)模等等。

  Baiduspider抓取過程中涉及的網(wǎng)絡(luò)協(xié)議

  剛才提到百度搜索引擎會(huì)設(shè)計(jì)復(fù)雜的抓取策略,其實(shí)搜索引擎與資源提供者之間存在相互依賴的關(guān)系,其中搜索引擎需要站長(zhǎng)為其提供資源,否則搜索引擎就無法滿足用戶檢索需求;而站長(zhǎng)需要通過搜索引擎將自己的 內(nèi)容推廣出去獲取更多的受眾。spider抓取系統(tǒng)直接涉及互聯(lián)網(wǎng)資源提供者的利益,為了使搜素引擎與站長(zhǎng)能夠達(dá)到雙贏,在抓取過程中雙方必須遵守一定的 規(guī)范,以便于雙方的數(shù)據(jù)處理及對(duì)接。這種過程中遵守的規(guī)范也就是日常中我們所說的一些網(wǎng)絡(luò)協(xié)議。

  以下簡(jiǎn)單列舉:

  http協(xié)議:超文本傳輸協(xié)議,是互聯(lián)網(wǎng)上應(yīng)用最為廣泛的一種網(wǎng)絡(luò)協(xié)議,客戶端和服務(wù)器端請(qǐng)求和應(yīng)答的標(biāo)準(zhǔn)。客戶端一般情況是指終端用戶,服務(wù)器端即指網(wǎng) 站。終端用戶通過瀏覽器、蜘蛛等向服務(wù)器指定端口發(fā)送http請(qǐng)求。發(fā)送http請(qǐng)求會(huì)返回對(duì)應(yīng)的httpheader信息,可以看到包括是否成功、服務(wù) 器類型、網(wǎng)頁最近更新時(shí)間等內(nèi)容。

  https協(xié)議:實(shí)際是加密版http,一種更加安全的數(shù)據(jù)傳輸協(xié)議。

  UA屬性:UA即user-agent,是http協(xié)議中的一個(gè)屬性,代表了終端的身份,向服務(wù)器端表明我是誰來干嘛,進(jìn)而服務(wù)器端可以根據(jù)不同的身份來做出不同的反饋結(jié)果。

  robots協(xié)議:robots.txt是搜索引擎訪問一個(gè)網(wǎng)站時(shí)要訪問的第一個(gè)文件,用以來確定哪些是被允許抓取的哪些是被禁止抓取的。 robots.txt必須放在網(wǎng)站根目錄下,且文件名要小寫。詳細(xì)的robots.txt寫法可參考 http://www.robotstxt.org 。百度嚴(yán)格按照robots協(xié)議執(zhí)行,另外,同樣支持網(wǎng)頁內(nèi)容中添加的名為robots的meta標(biāo) 簽,index、follow、nofollow等指令。

  Baiduspider抓取頻次原則及調(diào)整方法

  Baiduspider根據(jù)上述網(wǎng)站設(shè)置的協(xié)議對(duì)站點(diǎn)頁面進(jìn)行抓取,但是不可能做到對(duì)所有站點(diǎn)一視同仁,會(huì)綜合考慮站點(diǎn)實(shí)際情況確定一個(gè)抓取配額,每天定量抓取站點(diǎn)內(nèi)容,即我們常說的抓取頻次。那么百度搜索引擎是根據(jù)什么指標(biāo)來確定對(duì)一個(gè)網(wǎng)站的抓取頻次的呢,主要指標(biāo)有四個(gè):

  1,網(wǎng)站更新頻率:更新快多來,更新慢少來,直接影響B(tài)aiduspider的來訪頻率

  2,網(wǎng)站更新質(zhì)量:更新頻率提高了,僅僅是吸引了Baiduspier的注意,Baiduspider對(duì)質(zhì)量是有嚴(yán)格要求的,如果網(wǎng)站每天更新出的大量?jī)?nèi)容都被Baiduspider判定為低質(zhì)頁面,依然沒有意義。

  3,連通度:網(wǎng)站應(yīng)該安全穩(wěn)定、對(duì)Baiduspider保持暢通,經(jīng)常給Baiduspider吃閉門羹可不是好事情

  4,站點(diǎn)評(píng)價(jià):百度搜索引擎對(duì)每個(gè)站點(diǎn)都會(huì)有一個(gè)評(píng)價(jià),且這個(gè)評(píng)價(jià)會(huì)根據(jù)站點(diǎn)情況不斷


聊城市云聯(lián)網(wǎng)絡(luò)科技有限公司-官網(wǎng),聊城網(wǎng)站建設(shè),聊城網(wǎng)站推廣,聊城網(wǎng)站優(yōu)化,聊城400電話辦理,聊城微信公眾平臺(tái),聊城網(wǎng)站托管,聊城集團(tuán)彩鈴,聊城財(cái)務(wù)軟件,聊城淘寶店鋪裝修,聊城淘寶美工