上周寫了一個(gè)node+experss的爬蟲小入門。今天繼續(xù)來學(xué)習(xí)一下,寫一個(gè)爬蟲2.0版本。
這次我們不再爬博客園了,咋玩點(diǎn)新的,爬爬電影天堂。因?yàn)槊總€(gè)周末都會(huì)在電影天堂下載一部電影來看看。
talk is cheap,show me the code!
【原】小玩node+express爬蟲-1:http://www.cnblogs.com/xianyulaodi/p/6049237.html
抓取頁面分析
我們的目標(biāo):
1、抓取電影天堂首頁,獲取左側(cè)最新電影的169條鏈接
2、抓取169部新電影的迅雷下載鏈接,并且并發(fā)異步抓取。
具體分析如下:
1、我們不需要抓取迅雷的所有東西,只需要下載最新發(fā)布的電影即可,比如下面的左側(cè)欄。一共有170個(gè),除去第一個(gè)(因?yàn)榈谝粋€(gè)里面有200部電影),一共有169部電影。
2、除了抓取首頁的東西,我們還要抓取點(diǎn)進(jìn)去之后,每部電影的迅雷下載鏈接
延伸閱讀
- ssh框架 2016-09-30
- 阿里移動(dòng)安全 [無線安全]玩轉(zhuǎn)無線電——不安全的藍(lán)牙鎖 2017-07-26
- 消息隊(duì)列NetMQ 原理分析4-Socket、Session、Option和Pipe 2024-03-26
- Selective Search for Object Recognition 論文筆記【圖片目標(biāo)分割】 2017-07-26
- 詞向量-LRWE模型-更好地識(shí)別反義詞同義詞 2017-07-26
- 從棧不平衡問題 理解 calling convention 2017-07-26
- php imagemagick 處理 圖片剪切、壓縮、合并、插入文本、背景色透明 2017-07-26
- Swift實(shí)現(xiàn)JSON轉(zhuǎn)Model - HandyJSON使用講解 2017-07-26
- 阿里移動(dòng)安全 Android端惡意鎖屏勒索應(yīng)用分析 2017-07-26
- 集合結(jié)合數(shù)據(jù)結(jié)構(gòu)來看看(二) 2017-07-26