kafka命令大全

半兽人 发表于: 2016-10-25   最后更新时间: 2018-03-16  
  •   267 订阅,30704 游览

整理kafka相关的常用命令

管理

## 创建主题(4个分区,2个副本)
bin/kafka-topics.sh --create --zookeeper localhost:2181 --replication-factor 2 --partitions 4 --topic test

查询

## 查询集群描述
bin/kafka-topics.sh --describe --zookeeper 

## 新消费者列表查询(支持0.9版本+)
bin/kafka-consumer-groups.sh --new-consumer --bootstrap-server localhost:9092 --list

## 显示某个消费组的消费详情(仅支持offset存储在zookeeper上的)
bin/kafka-run-class.sh kafka.tools.ConsumerOffsetChecker --zkconnect localhost:2181 --group test

## 显示某个消费组的消费详情(支持0.9版本+)
bin/kafka-consumer-groups.sh --new-consumer --bootstrap-server localhost:9092 --describe --group test-consumer-group

发送和消费

## 生产者
bin/kafka-console-producer.sh --broker-list localhost:9092 --topic test

## 消费者
bin/kafka-console-consumer.sh --zookeeper localhost:2181 --topic test

## 新生产者(支持0.9版本+)
bin/kafka-console-producer.sh --broker-list localhost:9092 --topic test --producer.config config/producer.properties

## 新消费者(支持0.9版本+)
bin/kafka-console-consumer.sh --bootstrap-server localhost:9092 --topic test --new-consumer --from-beginning --consumer.config config/consumer.properties

## 高级点的用法
bin/kafka-simple-consumer-shell.sh --brist localhost:9092 --topic test --partition 0 --offset 1234  --max-messages 10

平衡leader

bin/kafka-preferred-replica-election.sh --zookeeper zk_host:port/chroot

kafka自带压测命令

bin/kafka-producer-perf-test.sh --topic test --num-records 100 --record-size 1 --throughput 100  --producer-props bootstrap.servers=localhost:9092






发表于: 1年前   最后更新时间: 4月前   游览量:30704
上一条: Kafka Streams开发者指南
下一条: kafka实战kerberos(笔记)

评论…


  • 我这kafka内存占用率下不来,什么情况,消息也过了失效的时间。
    .sh在命令台运行不了啊,不是只能运行.bat文件吗
    请教一下,我使用的是2.11版本的kafka,在Susue系统上使用命令创建生产者和消费者进行测试,我都是直接ctrl+C直接退出生产者/消费者的窗口,但ps进程的时候发现生产者和消费者的进程是依然存在的...而且ps -ef|grep java | grep kafka 出来的内容没有办法区分这个进程是生产还是消费者,甚至是否为broker也无法区分..有什么办法可以不使用生产/消费者的时候就直接kill 进程呢?
    并且 kafka-server-stop.sh 以及zookeeper-server-stop.sh 脚本并没有什么用处......
    • jps倒是可以..但是应该也不能区分到底是哪个进程吧。zookeeper可以区分,但是broker和consumer,producer貌似没法区分~~~~感谢你的所有文章以及回复。
        我的mac运行消费者命令时候一直显示kafka-console-producer.sh:commend not found,请问是咋回事,拜谢!
        我想在shell里面调kafka的rest api,不知道是否可行?
        大神,能否推荐一个高并发性能的rest api方案?只使用该rest api生产消息
        大神,问个问题:
        我要做一个监控系统,包含大量的shell监控脚本,每个脚本负责各自的监控任务。大量脚本并发执行,我想使用kafka作为脚本的缓存。遇到的问题是kafka没有专门针对shell的client,调用Java client性能很不理想。大神有没有什么好的办法解决呢?
        归结为一句话就是:如何在多个并发的shell里使用kafka生产消息,请大神指点一二,谢谢~
        奥迪
      • 评论…
        • in this conversation
          提问