Loading [MathJax]/jax/input/TeX/config.js
首页
学习
活动
专区
圈层
工具
发布
首页
学习
活动
专区
圈层
工具
MCP广场
社区首页 >专栏 >搭建Kafka集群

搭建Kafka集群

作者头像
武培轩
发布于 2019-08-31 12:15:17
发布于 2019-08-31 12:15:17
1K0
举报
文章被收录于专栏:武培轩的专栏武培轩的专栏

下载Kafka

1.下载Kafka:http://mirror.bit.edu.cn/apache/kafka/2.3.0/kafka_2.12-2.3.0.tgz

2.解压后复制Kafka文件夹,分别命名为kafka1、kafka2、kafka3

修改配置文件

  1. 修改config文件夹下的server.properties ,其中的brokerId是惟一的,集群中kafka服务器配置的brokerId不能相同,相当于zookeeper的myid
  2. zookeeper.connect=127.0.0.1:2181,127.0.0.1:2182,127.0.0.1:2183/kafka

说明: 这个是zookeeper集群的服务器端口号, /kafka是在zookeeper挂载的文件夹,要自己创建zookeeper客户端命令 create /kafka

Kafka操作

创建主题

kafka-topics.bat –create –zookeeper 127.0.0.1:2181,127.0.0.1:2182,127.0.0.1:2183/kafka –replication-factor 1 –partitions 1 –topic test

指令说明: –create 指定创建topic动作 –zookeeper 指定kafka连接zk的连接url,该值和server.properties文件中的配置项{zookeeper.connect}一样 –replication-factor:指定每个分区的复制因子个数,默认1个 –partitions:指定当前创建的kafka分区数量,默认为1个 –topic:设置主题名字

查看主题状态

kafka-topics.bat –describe –zookeeper 127.0.0.1:2181,127.0.0.1:2182,127.0.0.1:2183/kafka –topic test

结果信息字段含义: 1 Partition: 分区 2 Leader : 负责读写指定分区的节点 3 Replicas : 复制该分区log的节点列表 4 Isr : “in-sync” replicas,当前活跃的副本列表(是一个子集),并且可能成为Leader

kafka生产者生产消息

kafka-console-producer.bat –broker-list 127.0.0.1:9092 –topic test

消费者接受消息

kafka-console-consumer.bat --bootstrap-server 127.0.0.1:9092 --topic test --from-beginning

本文参与 腾讯云自媒体同步曝光计划,分享自作者个人站点/博客。
原始发表:2019-08-30 ,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 作者个人站点/博客 前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体同步曝光计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
暂无评论
推荐阅读
编辑精选文章
换一批
kafka 实战
kafka 是一款基于发布订阅的消息系统,Kafka的最大的特点就是高吞吐量以及可水平扩展, Kafka擅长处理数据量庞大的业务,例如使用Kafka做日志分析、数据计算等。 <!--more-->
六个核弹
2021/07/26
7410
kafka环境安装-基于windows
Kafka是由Apache软件基金会开发的一个开源流处理平台,由Scala和Java编写。Kafka是一种高吞吐量的分布式发布订阅消息系统,它可以处理消费者在网站中的所有动作流数据。--百度百科
逍遥壮士
2021/04/13
5910
kafka环境安装-基于windows
Kafka 服务器集群部署
上篇文章 Kafka 工作机制 讲述了 Kafka 的各组件(包括配置中心、Broker、消息生产者和消费者)的作用,分区与复制的机制等。有了这些概念,本文以三个 Broker 为例,讲述了 Kafka 集群的搭建步骤和方法,并以官方自带的命令行脚本进行消息的生产、消费、查看等操作。
IT技术小咖
2019/06/26
2K0
在Windows安装运行Kafka
http://www.oracle.com/technetwork/java/javase/downloads/jdk8-downloads-2133151.html
chenchenchen
2019/09/02
5.8K0
在Windows安装运行Kafka
kafka集群搭建
一个典型的Kafka 集群中包含若干Producer(可以是web 前端产生的Page View,或者是服务器日志,系统 CPU、Memory 等),
py3study
2020/02/21
1.1K0
kafka集群搭建
windows安装kafka教程
cd D:\software\kafka\kafka_2.11-2.2.0\bin\windows
全栈程序员站长
2022/11/03
1.8K0
windows安装kafka教程
迟来的kafka系列——认识和使用kafka
kafka 是一款基于发布订阅的消息系统,Kafka的最大的特点就是高吞吐量以及可水平扩展, Kafka擅长处理数据量庞大的业务,例如使用Kafka做日志分析、数据计算等。
六个核弹
2022/12/23
4600
kafka集群搭建
RabbitMQ是使用Erlang编写的一个开源的消息队列,本身支持很多的协议:AMQP,XMPP, SMTP, STOMP,也正因如此,它非常重量级,更适合于企业级的开发。同时实现了Broker构架,这意味着消息在发送给客户端时先在中心队列排队。对路由,负载均衡或者数据持久化都有很好的支持。
Cyylog
2020/08/19
8080
kafka集群操作命令「建议收藏」
默认Kafka会使用ZooKeeper默认的/路径,这样有关Kafka的ZooKeeper配置就会散落在根路径下面,如果 你有其他的应用也在使用ZooKeeper集群,查看ZooKeeper中数据可能会不直观,所以强烈建议指定一个chroot路径,直接在 zookeeper.connect配置项中指定。
全栈程序员站长
2022/08/29
9420
kafka集群操作命令「建议收藏」
Windows OS上安装运行Apache Kafka教程
下面是分步指南,教你如何在Windows OS上安装运行Apache Zookeeper和Apache Kafka。 简介 本文讲述了如何在Windows OS上配置并启动Apache Kafka,这篇指南将会指导你安装Java和Apache Zookeeper。 Apache Kafka是一个快速可扩展的消息队列,能够应对繁重的读写负载,即IO相关工作。更多信息请参见http://kafka.apache.org。由于Zookeeper能提供可靠的分布式协调服务,Apache Kafka需要运行一个Zo
CSDN技术头条
2018/02/11
1.9K0
Windows OS上安装运行Apache Kafka教程
进击消息中间件系列(三):Kafka 中 shell 命令使用
注:partitions指定topic分区数,replication-factor指定topic每个分区的副本数。
民工哥
2023/08/22
6780
进击消息中间件系列(三):Kafka 中 shell 命令使用
kafuka 的安装以及基本使用
最近因为项目需要所以需要使用kafka 所以自己最近也实践了下。下面为大家简单介绍下在windows下的安装使用
全栈程序员站长
2022/06/30
1.5K0
kafuka 的安装以及基本使用
Kafka超详细学习笔记【概念理解,安装配置】
Apache Kafka 是一个分布式流处理平台:distributed streaming platform。
烂猪皮
2023/09/04
1.7K0
Kafka超详细学习笔记【概念理解,安装配置】
掌握Kafka的topics:使用kafka-topics.sh的综合指南
/bin目录下的每一个脚本工具,都有着众多的参数选项,不可能所有命令都记得住,这些脚本都可以使用 --help 参数来打印列出其所需的参数信息。
Lion 莱恩呀
2025/01/17
7880
掌握Kafka的topics:使用kafka-topics.sh的综合指南
kafka(二)Kafka快速入门
脚本 kafka]$ bin\kafka-console-producer.sh 命令选项
用户1483438
2022/04/10
8480
2.基于Zookeeper搭建Kafka高可用集群
为保证集群高可用,Zookeeper 集群的节点数最好是奇数,最少有三个节点,所以这里搭建一个三个节点的集群。
每天进步一点点
2022/07/27
5770
2.基于Zookeeper搭建Kafka高可用集群
Kafka集群搭建 以及命令「建议收藏」
测试机 三个节点 hadoop1 hadoop2 hadoop3 这三个节点 安装了独立的zookeeper 且我其他hadoop hbase等元数据信息都在上面 我不用Kafka自带的 zookeeper
全栈程序员站长
2022/06/27
4070
Web基础配置篇(十四): Kafka单机、集群的安装配置及使用
Apache Kafka是一个分布式发布 - 订阅消息系统和一个强大的队列,可以处理大量的数据,并使您能够将消息从一个端点传递到另一个端点。 Kafka适合离线和在线消息消费。 Kafka消息保留在磁盘上,并在群集内复制以防止数据丢失。 Kafka构建在ZooKeeper同步服务之上。 它与Apache Storm和Spark非常好地集成,用于实时流式数据分析。
品茗IT
2020/05/28
1.5K0
Kafka常用命令收录
本文内容主要来自两个方面:一是网上的分享,二是自研的随手记。日记月累,收录kafka各种命令,会持续更新。
一见
2018/09/30
6.6K0
Kafka kafka在windows下的安装与配置
1.测试环境.................................................................................................................
授客
2020/07/16
2K0
相关推荐
kafka 实战
更多 >
领券
一站式MCP教程库,解锁AI应用新玩法
涵盖代码开发、场景应用、自动测试全流程,助你从零构建专属AI助手
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档