博客
关于我
强烈建议你试试无所不能的chatGPT,快点击我
【收藏】 Kafka监控组件大全
阅读量:6967 次
发布时间:2019-06-27

本文共 2584 字,大约阅读时间需要 8 分钟。

本文使用Burrow和Telegraf搭建Kafka的监控体系。然后,简单介绍一下其他的,比如Kafka Manager,Kafka Eagle,Confluent Control Center等。

如果你对kafka比较陌生,请参考:

Burrow

依赖路径

使用Burrow拉取kafka的监控信息,然后通过telegraf进行收集,最后写入到influxdb中。使用grafana进行展示。

安装

从github下载二进制文件解压即可。

Burrow是Kafka社区committer亲自编写的,能够监控消费端端情况。不过没有UI界面,开发语言使用的是Go。此项目活跃度不是很高,但已经够用了。

主要的配置文件

burrow可以支持同时获取多个集群的信息,比如,我有两个集群 dm和 databus,那么我的配置文件就可以是下面这样。

[general]pidfile="burrow.pid"stdout-logfile="burrow.out"access-control-allow-origin="mysite.example.com"[logging]filename="logs/burrow.log"level="info"maxsize=100maxbackups=30maxage=10use-localtime=falseuse-compression=true[zookeeper]servers=[ "192.168.54.159:2181"]timeout=6root-path="/burrow"[client-profile.databus]client-id="burrow-databus"kafka-version="0.10.0"[cluster.databus]class-name="kafka"servers=[ "192.168.86.57:9092","192.168.128.158:9092" ]client-profile="databus"topic-refresh=120offset-refresh=30[consumer.databus]class-name="kafka"cluster="databus"servers=[ "192.168.86.57:9092","192.168.128.158:9092" ]client-profile="databus"group-blacklist="^(console-consumer-|python-kafka-consumer-|quick-).*$"group-whitelist=""[client-profile.dm]client-id="burrow-dm"kafka-version="0.10.0"[cluster.dm]class-name="kafka"servers=[ "192.168.204.156:9092","192.168.87.50:9092" ]client-profile="dm"topic-refresh=120offset-refresh=30[consumer.dm]class-name="kafka"cluster="dm"servers=[ "192.168.204.156:9092","192.168.87.50:9092" ]client-profile="databus"group-blacklist="^(console-consumer-|python-kafka-consumer-|quick-).*$"group-whitelist=""[httpserver.default]address=":8000"[storage.default]class-name="inmemory"workers=20intervals=15expire-group=604800min-distance=1复制代码

然后,使用nohup命令启动即可。

nohup ./burrow -config-dir=./config &复制代码

验证

获取配置的kafka集群。 获取某个集群的消费者信息。

Grafana配置

1、创建变量

过滤出所有集群,这样就可以使用选择框进行集群选择。

2、创建图表

通过cluster过滤集群,然后选择监控项。可以通过group进行分组。

监控项

burrow_group 监控消费者信息。包括

lag offset status total_lag patition_count

burrow_patition 监控更加详细的分区信息,包括

lag offset status

burrow_topic 监控主题相关信息,包括

offset

一、Kafka Manager

最受欢迎的一个,scala编写 且仅提供源码下载需要自己sbt编译。【编译过程极其 o(≧口≦)o】

支持管理多个集群、选择副本、副本重新分配以及创建Topic、Consumer信息查看等功能。

除了编译困难,在拉取大型kafka集群的信息时,会占用大量资源。

二、Kafka Eagle

国人自己开发,在Kafka QQ群里很多人推崇,因为界面很干净漂亮,上面有很好的数据展现。权限报警比较完善,支持钉钉,微信,邮件等报警方式。支持使用ksql查询数据。

三、Confluent Control Center

Control Center是目前能收集到的功能最齐全的Kafka监控框架,but只有购买了Confluent企业版才有,付费的

官方文档 :

注:安装极为繁琐(

需要使用企业版提供的kafka,否则需要将kafka引入4个jar,修改配置文件。

另外此服务需要依赖schema-registry、connect-distributed、及kafka-rest等服务,需要开5个端口

四、Kafka Monitor

炮灰

五、Kafka Offset Monitor

炮灰

End

以上,就是常用的kafka监控组件。

更多精彩文章。

Linux五件套之类的。

转载于:https://juejin.im/post/5d08b57b5188251260274af8

你可能感兴趣的文章
菜鸟学Linux 第066篇笔记 简单配置iptables
查看>>
screen
查看>>
支持免费的办公软件 IBM Symphony
查看>>
SQL Server 中函数的理解总结
查看>>
mysql5.1.X安装plugin
查看>>
Nginx+tomcat整合
查看>>
解决Vsphere Client 60天过期问题
查看>>
RDP error: This computer can’t connect to the remote computer
查看>>
Zabbix3.x安装图解教程
查看>>
linux rz sz 上传下载命令详解
查看>>
Know more about AWR Parse Statistics
查看>>
SElinux 配置与管理
查看>>
Script to Collect RAC Diagnostic Information (racdiag.sql)
查看>>
Linux对外连接端口数限制
查看>>
增加删除列列
查看>>
docker的资源隔离---cpu、内存、磁盘限制
查看>>
PMP考生最关心的八大问题
查看>>
SpringBoot启动分析
查看>>
python click模块-命令行神器
查看>>
Zabbix从入门到应用(一)
查看>>