一直想做個(gè)這樣的爬蟲:定制自己的種子,爬取想要的數(shù)據(jù),做點(diǎn)力所能及的小分析。正好,這段時(shí)間寶寶出生,一邊陪寶寶和寶媽,一邊把自己做的這個(gè)豆瓣電影爬蟲的數(shù)據(jù)采集部分跑起來?,F(xiàn)在做一個(gè)概要的介紹和演示。
動(dòng)機(jī)
采集豆瓣電影數(shù)據(jù)包括電影詳情頁(yè)數(shù)據(jù)和電影的短評(píng)數(shù)據(jù)。
電影詳情頁(yè)如下圖所示
需要保存這些詳情字段如導(dǎo)演、編劇、演員等還有圖中右下方的標(biāo)簽。
短評(píng)頁(yè)面如下圖所示
需要保存的字段有短評(píng)所屬的電影名稱,每條評(píng)論的詳細(xì)信息如評(píng)論人名稱、評(píng)論內(nèi)容等。
數(shù)據(jù)庫(kù)設(shè)計(jì)
延伸閱讀
- ssh框架 2016-09-30
- 阿里移動(dòng)安全 [無線安全]玩轉(zhuǎn)無線電——不安全的藍(lán)牙鎖 2017-07-26
- 消息隊(duì)列NetMQ 原理分析4-Socket、Session、Option和Pipe 2024-03-26
- Selective Search for Object Recognition 論文筆記【圖片目標(biāo)分割】 2017-07-26
- 詞向量-LRWE模型-更好地識(shí)別反義詞同義詞 2017-07-26
- 從棧不平衡問題 理解 calling convention 2017-07-26
- php imagemagick 處理 圖片剪切、壓縮、合并、插入文本、背景色透明 2017-07-26
- Swift實(shí)現(xiàn)JSON轉(zhuǎn)Model - HandyJSON使用講解 2017-07-26
- 阿里移動(dòng)安全 Android端惡意鎖屏勒索應(yīng)用分析 2017-07-26
- 集合結(jié)合數(shù)據(jù)結(jié)構(gòu)來看看(二) 2017-07-26