Baidu spider抓取頻次原則

發(fā)布：2017-12-21 18:03:54 瀏覽：3494

Baiduspider根據(jù)上述網(wǎng)站設(shè)置的協(xié)議對站點頁面進(jìn)行抓取，但是不可能做到對所有站點，視同仁，會綜合考慮站點實際情況確定一個抓取配額，每天定量抓取站點內(nèi)容.即我們常說的抓取頻次，那么，百度搜索引擎是根據(jù)什么指標(biāo)來確定對一個網(wǎng)站的抓取頻次的呢，主要指標(biāo)有以下4個:

(1)網(wǎng)站更新頻率。更新快多來，更新慢少來，直接影響B(tài)aiduspider的來訪頻率。

(2)網(wǎng)站更新質(zhì)量，更新頻率提高了，僅僅是吸引了Baiduspider的注意，baiduspider對質(zhì)量是有嚴(yán)格要求的，如果網(wǎng)站每天更新出的大量內(nèi)容都被Baiduspider判定為低質(zhì)頁面，依然沒有意義。

(3)連通度、網(wǎng)站應(yīng)該安全穩(wěn)定、對Baiduspider保持暢通，經(jīng)常給Baiduspider吃閉門羹可不是好事情。

(4)站點評價。百度搜索引擎對每個站點都會有一個評價，且這個評價會根據(jù)站點的情況不斷變化，是百度搜索引擎對站點的一個基礎(chǔ)打分(絕非外界所說的百度權(quán)重)，是首度內(nèi)部一個非常機(jī)密的數(shù)據(jù)。站點評級從不獨立使用，會配合其他因子和閾值一起共同影響網(wǎng)站的抓取和排序。

抓取頻次間接決定著網(wǎng)站有多少頁面有可能被建庫收錄，如此重要的數(shù)值如果不符合站長預(yù)期.該如何調(diào)整呢?百度站長平臺提供了抓取頻次工具(http://zhanzhang.baidu.com/pressure/index)，并已完成多次升級。該工具除了提供抓取統(tǒng)計數(shù)據(jù)外，還提供“頻次調(diào)整”功能，網(wǎng)站建設(shè)者根據(jù)實際情況向百度站長平臺提出希望Baiduspider增加來訪或減少來訪的請求，工具會根據(jù)站長的意愿和實際情況進(jìn)行調(diào)整。