1.概述
在開發(fā)工作當(dāng)中,消費 Kafka 集群中的消息時,數(shù)據(jù)的變動是我們所關(guān)心的,當(dāng)業(yè)務(wù)并不復(fù)雜的前提下,我們可以使用 Kafka 提供的命令工具,配合 Zookeeper 客戶端工具,可以很方便的完成我們的工作。隨著業(yè)務(wù)的復(fù)雜化,Group 和 Topic 的增加,此時我們使用 Kafka 提供的命令工具,已預(yù)感到力不從心,這時候 Kafka 的監(jiān)控系統(tǒng)此刻便尤為顯得重要,我們需要觀察消費應(yīng)用的詳情。 監(jiān)控系統(tǒng)業(yè)界有很多杰出的開源監(jiān)控系統(tǒng)。我們在早期,有使用 KafkaMonitor 和 Kafka Manager 等,不過隨著業(yè)務(wù)的快速發(fā)展,以及互聯(lián)網(wǎng)公司特有的一些需求,現(xiàn)有的開源的監(jiān)控系統(tǒng)在性能、擴展性、和 DEVS 的使用效率方面,已經(jīng)無法滿足了。 因此,我們在過去的時間里,從互聯(lián)網(wǎng)公司的一些需求出發(fā),從各位 DEVS 的使用經(jīng)驗和反饋出發(fā),結(jié)合業(yè)界的一些開源的 Kafka 消息監(jiān)控,用監(jiān)控的一些思考出發(fā),設(shè)計開發(fā)了現(xiàn)在 Kafka 集群消息監(jiān)控系統(tǒng):Kafka Eagle。
Kafka Eagle 用于監(jiān)控 Kafka 集群中 Topic 被消費的情況。包含 Lag 的產(chǎn)生,Offset 的變動,Partition 的分布,Owner ,Topic 被創(chuàng)建的時間和修改的時間等信息。下載地址如下所示:
2.內(nèi)容
Kafka Eagle 涉及以下內(nèi)容模塊:
Dashboard
Topic(Create & List)
Consumers
Cluster Info
2.1 Dashboard
我們通過在瀏覽器中輸入 http://host:port/ke,訪問 Kafka Eagle 的 Dashboard 頁面。該頁面包含以下內(nèi)容:
Brokers
Topics
Zookeepers
Consumers
Kafka Brokers Graph
展示 Kafka 集群的 Topic 數(shù)量,消費者數(shù)量,Kafka 的 Brokers 數(shù),以及所屬的 Zookeeper 集群信息。Dashboard 信息展示截圖如下:
2.2 Topic
在 Topic 模塊下,包含創(chuàng)建 Topic 和展示 Topic 信息詳情。
2.2.1 Create
通過創(chuàng)建模塊可以創(chuàng)建一個自定義分區(qū)和備份數(shù)的 Topic。如下圖所示:
延伸閱讀
- ssh框架 2016-09-30
- 阿里移動安全 [無線安全]玩轉(zhuǎn)無線電——不安全的藍(lán)牙鎖 2017-07-26
- 消息隊列NetMQ 原理分析4-Socket、Session、Option和Pipe 2024-03-26
- Selective Search for Object Recognition 論文筆記【圖片目標(biāo)分割】 2017-07-26
- 詞向量-LRWE模型-更好地識別反義詞同義詞 2017-07-26
- 從棧不平衡問題 理解 calling convention 2017-07-26
- php imagemagick 處理 圖片剪切、壓縮、合并、插入文本、背景色透明 2017-07-26
- Swift實現(xiàn)JSON轉(zhuǎn)Model - HandyJSON使用講解 2017-07-26
- 阿里移動安全 Android端惡意鎖屏勒索應(yīng)用分析 2017-07-26
- 集合結(jié)合數(shù)據(jù)結(jié)構(gòu)來看看(二) 2017-07-26