/kafka-server-start.sh ../config/kraft/server.properties &使用kafka-topics.sh脚本创建主题..../kafka-topics.sh --create --topic 主题名 --bootstrap-server localhost:9092列出所有主题..../kafka-topics.sh --list --bootstrap-server localhost:9092查看主题详情..../kafka-topics.sh --describe --topic 主题名 --bootstrap-server localhost:9092删除主题..../kafka-topics.sh --delete --topic 主题名 --bootstrap-server localhost:9092使用kafka-console-producer.sh脚本发送消息
日常Topic操作这里的命令以kafka2.2之后版本进行说明,社区推荐命令指定 --bootstrap-server参数,受kafka安全认证体系的约束,如果使用 --zookeeper 会绕过 Kafka...动态修改主题参数以 max.message.bytes为例5.1 增加指定broker的配置bin/kafka-configs.sh --bootstrap-server broker_host:port...":"128000"}}5.2 删除指定broker的配置bin/kafka-configs.sh --bootstrap-server broker_host:port --entity-type topics...删除topicbin/kafka-topics.sh --bootstrap-server broker_host:port --delete --topic 二....第 2 步,手动删除该主题在磁盘上的分区目录。第 3 步,在 ZooKeeper 中执行 rmr /controller,触发 Controller 重选举,刷新 Controller 缓存。
--bootstrap-server server to connect to> 必需:要连接的 Kafka 服务器。 如果提供此项,则不需要直接的 Zookeeper 连接。...不支持 --bootstrap-server 选项。 --describe 列出给定主题的详细信息。...不支持 --bootstrap-server 选项。 --if-not-exists 如果在创建主题时设置,则只有在主题不存在时才会执行操作。 不支持 --bootstrap- 服务器选项。...consumer操作 脚本 kafka]$ bin/kafka-console-consumer.sh 命令选项 选项 描述 --bootstrap-server server...whitelist> 指定要包含以供使用的主题白名单的正则表达式。
Kafka的shell命令使用一、创建topic 创建一个topic(主题)。Kafka中所有的消息都是保存在主题中,要生产消息到Kafka,首先必须要有一个确定的主题。...# 创建名为test的主题bin/kafka-topics.sh --create --bootstrap-server node1:9092 --topic test# 查看目前Kafka中的主题bin.../kafka-topics.sh --list --bootstrap-server node1:9092二、生产消息到kafka 使用Kafka内置的测试程序,生产一些消息到Kafka的test主题中...bin/kafka-console-consumer.sh --bootstrap-server node1:9092 --topic test四、查看主题的命令 查看 kafka 当中存在的主题 bin...如果需要立即删除,则需要 在server.properties 中配置: delete.topic.enable=true 然后执行以下命令进行删除 topic bin/kafka-topics.sh
前言 https://kafka.apache.org/downloads 单机环境搭建 安装zookeeper kafka依赖zookeeper,安装包内已内置 使用内置的可以跳过该步骤 也可自己单独下载...delete /zk 将刚才创建的 znode 删除 退出客户端: quit 帮助命令:help 修改配置 修改配置文件 config/server.properties #broker.id属性在kafka...7、消费者的消费偏移量是消费者自己维护的,查看主题的消费偏移量 bin/kafka-consumer-groups.sh --bootstrap-server localhost:9092 --describe...bootstrap-server localhost:9092 --topic test 5、创建多个分区主题 %KAFKA_HOME%/bin/windows/kafka-topics.bat --create...,查看主题的消费偏移量 %KAFKA_HOME%/bin/windows/kafka-consumer-groups.bat --bootstrap-server localhost:9092 --describe
64 --replication-factor 3 --topic test-topic --config xxxxx # 删除主题(delete.topic.enable=true) $ bin/kafka-topics.sh...--delete --zookeeper localhost:2181 --topic test-topic # 查询主题列表 $ bin/kafka-topics.sh --zookeeper localhost...consumer 相关管理 (1)查询消费组 kafka-consumer-groups.sh $ bin/kafka-consumer-groups.sh --bootstrap-server localhost...(3)删除消费组 $ bin/kafka-consumer-groups.sh --bootstrap-server localhost:9200 --delete --group test-group...(2)kafka-console-consumer.sh $ bin/kafka-console-consumer.sh --bootstrap-server localhost:9200 --topic
支持以下内容: 管理多个集群 轻松检查群集状态(主题,使用者,偏移量,代理,副本分发,分区分发) 运行首选副本选择 生成带有选项的分区分配,以选择要使用的代理 运行分区的重新分配(基于生成的分配)...创建带有可选主题配置的主题(0.8.1.1与0.8.2+具有不同的配置) 删除主题(仅在0.8.2+上受支持,并记住在代理配置中设置delete.topic.enable = true) 主题列表指示标记为删除的主题...(仅在0.8.2+上受支持) 批量生成多个主题的分区分配,并可以选择要使用的代理 批量运行分区的多个主题的重新分配 将分区添加到现有主题 更新现有主题的配置 Kafka Manager下载地址 https...kafka-console-producer.sh --bootstrap-server 192.168.31.80:9092 --topic yuanfan_kafka_test kafka-console-consumer.sh...--bootstrap-server 192.168.31.80:9092 --topic yuanfan_kafka_test 1)可以创建主题,测试主题的自生产与自消费 2)用之前配置文件中账户密码登录
Apacke Kafka维护团队开始讨论去除Zookeeper了(2019年11月6日),目前,Kafka使用ZooKeeper来存储分区和代理的元数据,并选择一个Broker作为Kafka控制器,而希望通过删除对...ZK时,--zookeeper、broker-list和bootstrap-server指定单个即可。...使用 kafka-topics.sh 创建单分区单副本的主题users。 # 创建后,主题会持久化到本地,重启服务后还有,需要用--delete选项删除 $ ....1 --partitions 1 --topic users # 删除主题(主题已经在订阅的过程中是无法删除的) $ ....“过时”,推荐使用 −−bootstrap-server 参数,−−bootstrap-server指定的不是zookeeper的服务地址,而是Kafka的服务地址,消息由Kafka管理。
七、简单使用 1.创建主题 ....删除主题 ..../bin/kafka-console-consumer.sh --bootstrap-server Kafka服务器IP:9092 --consumer-property group.id=消费组名称.../bin/kafka-consumer-groups.sh --bootstrap-server Kafka服务器IP:9092 --list 例如:..../bin/kafka-consumer-groups.sh --bootstrap-server 47.105.137.93:9092 --list ? 最进弄了一个公众号,小菜技术,欢迎大家的加入
/bin/zookeeper-server-start.sh /opt/kafka/config/zookeeper.propertiesExecStop=/opt/kafka/bin/zookeeper-server-stop.shRestart...在此步骤中,您将学习如何创建和列出 Kafka 主题、启动生产者并插入数据、通过消费者脚本流式传输数据,最后,您将通过删除 Kafka 主题来清理您的环境。运行以下命令创建一个新的 Kafka 主题。...您将使用脚本“ kafka-topics.sh ”创建一个名为“ TestTopic ”的新主题,其中包含一个复制和分区。...sudo -u kafka /opt/kafka/bin/kafka-topics.sh --list --bootstrap-server localhost:9092图片接下来,要生成消息,您可以使用脚本...要清理您的 Kafka 环境,您可以通过以下命令 删除和移除TestTopic.sudo -u kafka /opt/kafka/bin/kafka-topics.sh --bootstrap-server
导语:搭建单机模式的zookeeper+kafka,用来做开发测试环境,管理主题、分区、生产消费及主题数据的导入导出。...kafka/config/server.properties & image.png image.png 四、管理主题: 1、创建主题 kafka-topics.sh --create --zookeeper...=204800 image.png image.png 4、删除主题 kafka-topics.sh --zookeeper localhost:2181 --delete --topic user_order1...--bootstrap-server localhost:9092 --topic ip_login image.png ###指定消费者组 kafka-console-consumer.sh --bootstrap-server...: 从消息记录最开始的位置开始“消费” --delete-consumer-offsets: 删除Zookeeper中已消费的偏移量 八、将数据导入到Kafka主题中 ###导入导出都要用客户端 [root
a total of 3 messages 二、kafka-topics.sh 使用方式创建、修改、删除以及查看等功能。...(TopicCommand.scala) (kafka.admin.TopicCommand$) 注意:不要使用 --alter 去尝试减少分区的数量,如果非要减少分区的数量,只能删除整个主题 topic...,则kafka broker 是不允许删除主题的)。...重点介绍了kafka-topics.sh的使用方式,包括如何查看帮助、副本数量规则、创建主题、查看broker上所有的主题、查看指定主题的详细信息、修改主题信息之增加主题分区数量以及删除主题等。...通过本文了解到如何使用kafka-topics.sh来有效地管理Kafka主题。通过介绍Kafka的基本操作和kafka-topics.sh的使用方式,了解了Kafka主题的管理方法。
--zookeeper 106.14.132.94:2181 \ 列表中有一个__consumer_offsets主题,这个主题不能删除哟 \ 删除主题 \ /opt/kafka_2.13-2.7.1...true,需要在$KAFKA/config/server.properties中配置delete.topic.enble=true [2. ] 删除log日志 [3. ] 删除ZK中的Topic记录 \...\ 消费之前的消息 \ /opt/kafka_2.13-2.7.1/bin/kafka-console-consumer.sh --bootstrap-server 106.14.132.94:9092...--from-beginning --topic test \ 消费最新的消息 \ /opt/kafka_2.13-2.7.1/bin/kafka-console-consumer.sh --bootstrap-server...\ 消费之前多主题的消息 \ /opt/kafka_2.13-2.7.1/bin/kafka-console-consumer.sh --bootstrap-server 106.14.132.94:9092
你可以使用它来创建、列出、描述、修改或删除主题。 --zookeeper hadoop102:2181: 这个参数指定了 ZooKeeper 服务器的地址和端口。...最后,需要注意的是,从 Kafka 2.4.0 版本开始,Kafka 引入了一个更安全的方式来删除主题,即使用 AdminClient API(通过 Kafka 命令行工具或编程方式)。...--bootstrap-server hadoop102:9092:这个参数指定了 Kafka 集群中的一个或多个 broker(服务器)的地址和端口,用于建立初始连接。...读取全部消息 bin/kafka-console-consumer.sh \ --bootstrap-server hadoop102:9092 --from-beginning --topic first...--bootstrap-server hadoop102:9092:这个参数指定了 Kafka 集群中用于建立初始连接的 broker(服务器)的地址和端口。
zk也是必不可少的. kafka内置了一个zk, 不建议使用。...min.insync.replicas 1 当producer设置acks为-1时,min.insync.replicas指定replicas的最小数目 delete.topic.enable false 是否允许删除主题...,当producer发布一个消息某个指定的Topic,但是这个Topic并不存在时,会自动创建 删除主题 # 删除 [root@artisan bin]# ..../kafka-console-consumer.sh --bootstrap-server 192.168.18.130:9092 --topic artisan ?.../kafka-console-consumer.sh --bootstrap-server 192.168.18.130:9092 --from-beginning --topic artisan
1.2 基本操作 1.2.1 Topic相关 # 创建Topic # --topic 主题名称 避免使用[_]及[.]号 # --replication-factor 副本数量(不能超过broker节点数.../bin/kafka-console-producer.sh \ --topic UserDataQueue \ --bootstrap-server localhost:9092,localhost:.../bin/kafka-console-consumer.sh \ --topic UserDataQueue \ --bootstrap-server localhost:9092,localhost:.../bin/zookeeper-server-start.sh -daemon /kafka/zookeeper.properties 2.2 Kafka配置及启动 # 需修改参数 # The id of.../bin/kafka-server-start.sh -daemon /kafka/server03.properties 2.3 Zookeeper可视化 PrettyZoo 是一个基于 Apache
服务 指定连接到的kafka服务; 如果有这个参数,则 --zookeeper可以不需要 –bootstrap-server localhost:9092 --zookeeper 弃用, 通过zk的连接方式连接到...config/producer.proterties; 然后在文件中配置 request.timeout.ms=300000 2.删除Topic bin/kafka-topics.sh --bootstrap-server....* : 任意字符 删除任意Topic (慎用) bin/kafka-topics.sh --bootstrap-server localhost:9092 --delete --topic “.*?...是否能够删除topic true 3.Topic分区扩容 zk方式(不推荐) >bin/kafka-topics.sh --zookeeper localhost:2181 --alter --topic...参数 描述 例子 --bootstrap-server 指定kafka服务 指定连接到的kafka服务; 如果有这个参数,则 --zookeeper可以不需要 –bootstrap-server localhost
systemctl enable zookeeper 三、部署kafka集群这里生产环境使用kafka_2.11-2.2.0 来进行部署1.下载安装wget https://archive.apache.org...20 --replication-factor 3 --config x=y 注 :此命令是在kafka部署目录中操作参数 详解 :--bootstrap-server : kafka集群地址--create.../bin/kafka-topics.sh --bootstrap-server broker_host:port --delete --topic my_topic_name 3.检查消费组offset.../bin/kafka-consumer-groups.sh --bootstrap-server broker_host:port --list --members:此选项提供消费者组中所有活跃成员的列表.../bin/kafka-consumer-groups.sh --bootstrap-server localhost:9092 --describe --group my-group --members
,则 --zookeeper可以不需要 –bootstrap-server localhost:9092 --zookeeper 弃用, 通过zk的连接方式连接到kafka集群; –zookeeper...用来配置客户端Admin Client启动配置,只在–bootstrap-server 同时使用时候生效; 例如:设置请求的超时时间 --command-config config/producer.proterties...; 然后在文件中配置 request.timeout.ms=300000 2.删除Topic bin/kafka-topics.sh --bootstrap-server localhost:9092....* : 任意字符 删除任意Topic (慎用) bin/kafka-topics.sh --bootstrap-server localhost:9092 --delete --topic...参数 描述 例子 --bootstrap-server 指定kafka服务 指定连接到的kafka服务; 如果有这个参数,则 --zookeeper可以不需要 –bootstrap-server localhost
领取专属 10元无门槛券
手把手带您无忧上云