資訊動(dòng)態(tài)
網(wǎng)站爬行策略
發(fā)布：2021-08-21 12:51:14 瀏覽：3283
網(wǎng)站爬行策略。全互聯(lián)網(wǎng)是由相互鏈接的網(wǎng)站及頁(yè)面組成的。從理論上說(shuō)，爬蟲從任何一個(gè)頁(yè)面出發(fā)，沿著鏈接都可爬完網(wǎng)上的所有頁(yè)面。由于網(wǎng)站及頁(yè)面具有非常復(fù)雜的鏈接結(jié)構(gòu)，爬蟲需要采取一定的爬行策略才能爬完網(wǎng)上所有頁(yè)面。實(shí)現(xiàn)一個(gè)完善的爬蟲系統(tǒng)，爬行策略至關(guān)重要。
爬行策略有如下幾種：深度優(yōu)先爬行策略是爬蟲沿著發(fā)現(xiàn)的鏈接先爬取一個(gè)網(wǎng)頁(yè)，然后一直往前爬行，爬行到前面再也沒(méi)有其他鏈接為止，然后在返回到第一個(gè)頁(yè)面，沿著另一個(gè)鏈接再一直往前爬行。如圖1所示，爬取的順序是A→D→E→B→C→F→G；廣度優(yōu)先爬行策略：是指爬蟲在一個(gè)頁(yè)面上發(fā)現(xiàn)多個(gè)網(wǎng)絡(luò)鏈接時(shí)，不是沿著一個(gè)網(wǎng)絡(luò)鏈接一直向前爬行，而是先把頁(yè)面上同一層次鏈接都爬一遍，然后再沿著第二層頁(yè)面上發(fā)現(xiàn)的鏈接爬向第三層頁(yè)面。
爬取的順序是A→B→C→D→E→F→G；大站優(yōu)先爬行策略是對(duì)于準(zhǔn)備抓取地址隊(duì)列中的所有網(wǎng)頁(yè)，把其根據(jù)所屬的網(wǎng)站進(jìn)行分類，優(yōu)先爬取網(wǎng)站的網(wǎng)頁(yè)數(shù)量比其他多的網(wǎng)站。反鏈爬行策略是指的是一個(gè)網(wǎng)頁(yè)被其他網(wǎng)頁(yè)鏈接指向的數(shù)量，當(dāng)某個(gè)網(wǎng)頁(yè)的內(nèi)容受到其他人的推薦的程度高，這種網(wǎng)頁(yè)被優(yōu)先爬取。
>>> 查看《網(wǎng)站爬行策略》更多相關(guān)資訊 <<<
本文地址：http://www.modelkey.org/news/html/28159.html
上一個(gè)：提高網(wǎng)站公眾服務(wù)力度
下一個(gè)：網(wǎng)站的社會(huì)價(jià)值分析
