一直想做個(gè)這樣的爬蟲：定制自己的種子，爬取想要的數(shù)據(jù)，做點(diǎn)力所能及的小分析。正好，這段時(shí)間寶寶出生，一邊陪寶寶和寶媽，一邊把自己做的這個(gè)豆瓣電影爬蟲的數(shù)據(jù)采集部分跑起來?，F(xiàn)在做一個(gè)概要的介紹和演示。
動機(jī)
采集豆瓣電影數(shù)據(jù)包括電影詳情頁數(shù)據(jù)和電影的短評數(shù)據(jù)。
電影詳情頁如下圖所示
需要保存這些詳情字段如導(dǎo)演、編劇、演員等還有圖中右下方的標(biāo)簽。
短評頁面如下圖所示
需要保存的字段有短評所屬的電影名稱，每條評論的詳細(xì)信息如評論人名稱、評論內(nèi)容等。
數(shù)據(jù)庫設(shè)計(jì)
