資訊動(dòng)態(tài)
新聞動(dòng)態(tài)Python爬取網(wǎng)頁(yè)數(shù)據(jù)
發(fā)布：2020-10-05 12:23:03 瀏覽：2250
Python爬取網(wǎng)頁(yè)數(shù)據(jù)。網(wǎng)頁(yè)中的數(shù)據(jù)大多是非結(jié)構(gòu)性數(shù)據(jù)。爬取網(wǎng)頁(yè)非結(jié)構(gòu)性文本數(shù)據(jù)的首要任務(wù)是去掉網(wǎng)頁(yè)噪聲。
網(wǎng)頁(yè)噪聲包括為了增強(qiáng)用戶(hù)交互性而加入的各種腳本標(biāo)記, 加強(qiáng)網(wǎng)頁(yè)視覺(jué)效果的各種動(dòng)畫(huà), 為了方便用戶(hù)瀏覽而添加的導(dǎo)航鏈接、廣告鏈接。這些信息跟文本分類(lèi)沒(méi)有實(shí)質(zhì)性關(guān)系。
Python作為一種網(wǎng)頁(yè)文本的爬蟲(chóng)程序開(kāi)發(fā)語(yǔ)言, 可以完成很多復(fù)雜的網(wǎng)頁(yè)文本提取。使用urlib2模塊下的簡(jiǎn)單代碼就能爬取目標(biāo)網(wǎng)頁(yè)的全部源代碼, 獲得整個(gè)網(wǎng)頁(yè)的內(nèi)容。使用BeautifulSoup模塊自帶的html.parse庫(kù), 去掉所爬網(wǎng)頁(yè)源代碼中的html標(biāo)記, 即可提取網(wǎng)頁(yè)標(biāo)簽中的文本內(nèi)容。
>>> 查看《新聞動(dòng)態(tài)Python爬取網(wǎng)頁(yè)數(shù)據(jù)》更多相關(guān)資訊 <<<
本文地址：http://www.modelkey.org/news/html/20622.html
