上周寫了一個(gè)node+experss的爬蟲小入門。今天繼續(xù)來學(xué)習(xí)一下,寫一個(gè)爬蟲2.0版本。

這次我們不再爬博客園了,咋玩點(diǎn)新的,爬爬電影天堂。因?yàn)槊總€(gè)周末都會(huì)在電影天堂下載一部電影來看看。

talk is cheap,show me the code!

 

【原】小玩node+express爬蟲-1:http://www.cnblogs.com/xianyulaodi/p/6049237.html

 

抓取頁面分析

我們的目標(biāo):

1、抓取電影天堂首頁,獲取左側(cè)最新電影的169條鏈接

2、抓取169部新電影的迅雷下載鏈接,并且并發(fā)異步抓取。

具體分析如下:

1、我們不需要抓取迅雷的所有東西,只需要下載最新發(fā)布的電影即可,比如下面的左側(cè)欄。一共有170個(gè),除去第一個(gè)(因?yàn)榈谝粋€(gè)里面有200部電影),一共有169部電影。

 

2、除了抓取首頁的東西,我們還要抓取點(diǎn)進(jìn)去之后,每部電影的迅雷下載鏈接

延伸閱讀

學(xué)習(xí)是年輕人改變自己的最好方式-Java培訓(xùn),做最負(fù)責(zé)任的教育,學(xué)習(xí)改變命運(yùn),軟件學(xué)習(xí),再就業(yè),大學(xué)生如何就業(yè),幫大學(xué)生找到好工作,lphotoshop培訓(xùn),電腦培訓(xùn),電腦維修培訓(xùn),移動(dòng)軟件開發(fā)培訓(xùn),網(wǎng)站設(shè)計(jì)培訓(xùn),網(wǎng)站建設(shè)培訓(xùn)學(xué)習(xí)是年輕人改變自己的最好方式