一、前言
針對大叔據(jù)實時處理的入門,除了使用WordCount示例之外,還需要相對更深入點的示例來理解Storm,因此,本篇博文利用Storm實現(xiàn)了頻繁項集挖掘的案例,以方便更好的入門Storm。
二、基礎(chǔ)知識
2.1 頻繁二項集挖掘
如顧客去超市購物時,牙膏和牙刷基本上都是擺放在一起,因為購買牙膏時,很有可能會購買牙刷。另外,“啤酒與尿布”的案例則是對訂單進(jìn)行分析挖掘后發(fā)現(xiàn)的規(guī)律,將啤酒和尿布一起擺放會促進(jìn)啤酒的銷量。
2.2 算法設(shè)計
本示例中不考慮太復(fù)雜的挖掘算法,只考慮將兩個商品組合后的挖掘,設(shè)計如下
· 將每筆訂單的商品按照兩兩分組。
· 將每個分組的頻度進(jìn)行統(tǒng)計(不考慮商品的次序)。
· 根據(jù)頻度計算支持度(每個組合出現(xiàn)的頻率越高,更有可能是頻繁組合)和置信度(商品組合出現(xiàn)的置信程度)。
· 設(shè)置支持度和置信度閾值,過濾不達(dá)標(biāo)的數(shù)據(jù)。
2.3 Storm設(shè)計思路
· 使用Redis作為存儲訂單數(shù)據(jù)的數(shù)據(jù)庫。
· 使用Spout從Redis中讀取訂單數(shù)據(jù)。
· 使用Bolt計算分組頻度。
· 使用Bolt計算支持度和置信度。
· 使用Bolt篩選結(jié)果并存儲到Redis中。
2.4 拓?fù)浣Y(jié)構(gòu)圖
根據(jù)程序思路設(shè)計如下所示的拓?fù)浣Y(jié)構(gòu),其組件在之后進(jìn)行介紹。
三、設(shè)計實現(xiàn)