概要：在使用storm分布式計算框架進(jìn)行數(shù)據(jù)處理時，如何保證進(jìn)入storm的消息的一定會被處理，且不會被重復(fù)處理。這個時候僅僅開啟storm的ack機(jī)制并不能解決上述問題。那么該如何設(shè)計出一個好的方案來解決上述問題?
現(xiàn)有架構(gòu)背景：本人所在項目組的實時系統(tǒng)負(fù)責(zé)為XXX的實時產(chǎn)生的交易記錄進(jìn)行處理，根據(jù)處理的結(jié)果向用戶推送不同的信息。實時系統(tǒng)平時接入量每秒1000條，雙十一的時候，最大幾十萬條。
原文和作者一起討論:http://www.cnblogs.com/intsmaze/p/6219878.html 可接網(wǎng)站開發(fā)，java開發(fā)。 新浪微博：intsmaze劉洋洋哥 微信：intsmaze
|
架構(gòu)設(shè)計：
storm設(shè)置的超時時間為3分鐘；kafkaspout的pending的長度為2000；storm開啟ack機(jī)制，拓?fù)涑绦蛑腥绻霈F(xiàn)異常則調(diào)用ack方法，向spout發(fā)出ack消息；每一個交易數(shù)據(jù)會有一個全局唯一性di。
處理流程：
延伸閱讀
- ssh框架 2016-09-30
- 阿里移動安全 [無線安全]玩轉(zhuǎn)無線電——不安全的藍(lán)牙鎖 2017-07-26
- 消息隊列NetMQ 原理分析4-Socket、Session、Option和Pipe 2024-03-26
- Selective Search for Object Recognition 論文筆記【圖片目標(biāo)分割】 2017-07-26
- 詞向量-LRWE模型-更好地識別反義詞同義詞 2017-07-26
- 從棧不平衡問題 理解 calling convention 2017-07-26
- php imagemagick 處理 圖片剪切、壓縮、合并、插入文本、背景色透明 2017-07-26
- Swift實現(xiàn)JSON轉(zhuǎn)Model - HandyJSON使用講解 2017-07-26
- 阿里移動安全 Android端惡意鎖屏勒索應(yīng)用分析 2017-07-26
- 集合結(jié)合數(shù)據(jù)結(jié)構(gòu)來看看(二) 2017-07-26
學(xué)習(xí)是年輕人改變自己的最好方式