上周寫(xiě)了一個(gè)node+experss的爬蟲(chóng)小入門(mén)。今天繼續(xù)來(lái)學(xué)習(xí)一下，寫(xiě)一個(gè)爬蟲(chóng)2.0版本。
這次我們不再爬博客園了，咋玩點(diǎn)新的，爬爬電影天堂。因?yàn)槊總€(gè)周末都會(huì)在電影天堂下載一部電影來(lái)看看。
talk is cheap,show me the code!
【原】小玩node+express爬蟲(chóng)-1：http://www.cnblogs.com/xianyulaodi/p/6049237.html
抓取頁(yè)面分析
我們的目標(biāo)：
1、抓取電影天堂首頁(yè)，獲取左側(cè)最新電影的169條鏈接
2、抓取169部新電影的迅雷下載鏈接，并且并發(fā)異步抓取。
具體分析如下：
1、我們不需要抓取迅雷的所有東西，只需要下載最新發(fā)布的電影即可,比如下面的左側(cè)欄。一共有170個(gè)，除去第一個(gè)（因?yàn)榈谝粋€(gè)里面有200部電影），一共有169部電影。
2、除了抓取首頁(yè)的東西，我們還要抓取點(diǎn)進(jìn)去之后，每部電影的迅雷下載鏈接
