Kafka是由Apache软件基金会开发的一个开源流处理平台,由Scala和Java编写。该项目的目标是为处理实时数据提供一个统一、高吞吐、低延迟的平台。
我们有一个 Kafka 测试环境集群,部署在完全隔离的内网环境中,内网其他网络无法直接访问。
topic分区中消息只能由消费者组中的唯一一个消费者处理,所以消息肯定是按照先后顺序进行处理的。但是它也仅仅是保证Topic的一个分区顺序处理,不能保证跨分区...
Apache Kafka是一个开源的分布式消息队列,由LinkedIn公司开发并于2011年贡献给Apache软件基金会。Kafka被设计用来处理千亿量级的实时...
Kafka消费者组消费异常的排查与解决实践
Kafka生产者消息丢失的排查与解决:一次真实开发中的踩坑记录
现在,Kafka和Zookeeper已经启动成功。完美,可以使用Java代码进行Kafka相关的操作。
高吞吐量场景下消费Kafka消息需要解决分区分配、负载均衡、并行处理等问题。典型案例如电商秒杀系统:10个消费者实例处理100个分区的订单消息,日均处理量超过2...
随着数字化转型的深入,企业对数据处理的需求已从传统的批处理模式逐步转向实时化、高并发的场景。无论是金融风控、电商交易、物联网监控还是社交网络分析,毫秒级的响应与...
文章导读 随着越来越多企业将 Kafka 迁移至云原生架构,AutoMQ 正逐渐成为 Kafka 用户的云端优选。💡 作为兼容 Apache Kafka 协议...
幂等性(Idempotence)是一个数学与计算机学概念,指的是对同一个操作执行多次,其结果与执行一次完全一致。在 Kafka 中,这意味着生产(Produce...
Kafka 在 0.11.0.0 引入的事务(Transactions)正是为了解决“恰好一次(Exactly-Once)语义”的痛点,同时兼顾跨会话幂等性、跨...
Kafka 可以在多种 Linux 发行版上运行,本文以 CentOS 7 为例,其他发行版步骤类似,只需调整包管理命令。
【博客标题】 Kafka 全景入门:从诞生背景到生产实战,一文讲透核心架构、特性以及与RabbitMQ的对比
翻译:https://www.confluent.io/blog/kip-848-consumer-rebalance-protocol/
在开始编码前,需要先安装并启动 Kafka 服务。Kafka 依赖于 ZooKeeper 进行集群协调,因此需要先启动 ZooKeeper。
文章导读 在云原生架构逐渐成为主流的今天,越来越多企业开始将 Apache Kafka 与数据湖、Lakehouse 结合,构建实时数据分析能力。然而,Kaf...
在这篇文章中,我将先介绍Java事件驱动架构的基本概念与工作机制,再深入讲解Kafka生态的构成及各部分功能,最后通过一个电商系统的实例展示如何在Java中利用...