腾讯云
开发者社区
文档
建议反馈
控制台
登录/注册
首页
学习
活动
专区
圈层
工具
MCP广场
文章/答案/技术大牛
搜索
搜索
关闭
发布
文章
问答
(2551)
视频
沙龙
1
回答
Kafka
Streams
将
1个
流
拆
分成
多个
流
、
、
、
、
我有一个学习使用
Kafka
Streams
的项目,但我真的有麻烦。我正在使用
kafka
-
streams
版本1.0.1。我们有一个带有如下风格的消息的主主题
流
: "phenomenonTime" : "2017-04-03T16:08:19.000Z", "resultTime" : "2017-04我如何通过
Kafka
Streams
实现这一点?我希望你能帮助我,更好地开始使用<e
浏览 4
提问于2018-08-05
得票数 3
1
回答
Apache Samza和Apache
Kafka
流
之间的区别(侧重于并行性和通信)
、
在Samza和
Kafka
流
中,数据
流
处理是在处理步骤( Samza中称为“作业”,
Kafka
Streams
中称为"processor“)的序列/图(Samza中称为”数据
流
图“,
Kafka
Streams
但是: Samza
将
每个工作人员(即作业)分别复制到
多个
任务(输入流中的每个分区一个)。也就是说,任务是工作
流
工作人员的副本。
Kafka
流</em
浏览 2
提问于2016-12-09
得票数 27
2
回答
来自单个主主题的
多个
流
、
、
如何从一个主主题生成
多个
流
?/* Filtering logic */
streams
.start();org.apache.
kafka
.
streams
.err
浏览 5
提问于2017-02-23
得票数 14
回答已采纳
2
回答
如何从多台机器获取spark streaming的输入?
、
如果我想从
多个
服务器发送
流
数据,该怎么办? 有没有人能给我举个工作的例子?我使用的是pyspark。
浏览 4
提问于2015-08-22
得票数 1
1
回答
spring和Binder在与
Kafka
的交互方面有什么区别?
、
、
、
、
我的理解是,创建是为了与
Kafka
客户端API交互,后来创建项目是为了“构建与共享消息传递系统相连接的高度可伸缩的事件驱动的微服务”,该项目包括两个绑定程序,其中一个是允许与
Kafka
交互的绑定器。spring-cloud-stream-binder-
kafka
-
streams
因此,我很清楚,如果我想与
Kafka
交互,我将使用spring云
流
方法和适当的绑定器。'org.springframework.
kafka
:spring-
kafka
&
浏览 3
提问于2021-11-10
得票数 0
回答已采纳
1
回答
这是阻止kafkastreams的正确方法吗?
、
、
、
我的工作是从远程数据库获取数据,并将它们连接到一个
kafka
流
中(丰富)。我现在要做的是定期
将
远程数据库轮询到本地内存中。我认为当这个轮询操作发生时,
kafka
流
应该被暂时停止。我现在的想法是有这样的东西:private KafkaStreams
streams
; @Scheduled(cron = "0 0/15 * * * *") // thismethod is scheduled to run ever
浏览 19
提问于2017-08-23
得票数 0
回答已采纳
2
回答
Kafka
流
并发?
、
我有一些基本的
Kafka
流
代码,可以从一个主题读取记录,进行一些处理,并将记录输出到另一个主题。
Kafka
streaming是如何处理并发的?所有的东西都在一个线程中运行吗?相对于其他选项(Spark、Akka、Samza、Storm等),
Kafka
内置的流媒体API是否不推荐用于大流量场景?
浏览 1
提问于2016-10-12
得票数 27
回答已采纳
2
回答
Apache Beam over Apache
Kafka
流
处理
、
、
、
Apache Beam和Apache
Kafka
在
流
处理方面有什么不同?我也在努力掌握技术和编程上的差异。 请通过您的经验报告来帮助我理解。
浏览 1
提问于2018-06-15
得票数 10
1
回答
如何在
多个
磁盘上分发
Kafka
流
状态存储
、
在
Kafka
Broker上,建议对消息日志使用
多个
驱动器来提高吞吐量。这就是为什么他们有一个log.dirs属性,可以有
多个
目录,这些目录将以循环方式分配给分区。我们已经为事件驱动的
kafka
应用程序安装了很多这样的安装,我们有4个节点,每个节点有5个磁盘。现在,我们希望使用带有键值存储的
Kafka
流
,在该存储库中,我们将计算出来的数据持久化,用于快速范围查询。我们看到
Kafka
-
Streams
将
分区1对1映射到
多个</em
浏览 6
提问于2020-03-16
得票数 1
回答已采纳
1
回答
KTables如何在创业时与卡夫卡互动?
、
kafka
流
如何保证由
kafka
broker分配给它的分区与分配给其他主题的分区匹配?好像需要协调一下吗?而且,卡夫卡
流
总是从一开始就阅读压缩的主题,还是从最新的偏移量中读取?
浏览 2
提问于2020-07-31
得票数 0
回答已采纳
1
回答
我们是否可以在
多个
Kafka
Streams
任务之间共享应用程序级缓存
、
假设我在
Kafka
Streams
应用程序中有一个内存缓存。输入主题有2个分区,因此为了获得最大的并行性,我使用2个线程配置了1个
streams
应用程序实例。在我的
流
处理器中,我进行远程调用来获取一些数据,并将其放入Map中以对其进行缓存。由于
Kafka
streams
将为每个任务分配一个线程,并且两个任务
将
尝试并行更新缓存的map,我是否需要注意确保缓存的map线程的安全?在可能运行
多个
Kafka
streams
任
浏览 9
提问于2020-07-26
得票数 0
1
回答
使用带有Spark的
Kafka
比仅使用Spark的优点
、
、
Kafka
是很常见的。所以很多公司都在使用它。我完全理解
Kafka
和Spark是如何工作的,我对他们都很有经验。我不理解的是用例。为什么你要把
Kafka
和Spark一起使用,而不仅仅是Spark呢?在我看来,
Kafka
的主要用途是作为ETL管道中的中转区,用于实时(
流
)数据。 我假设有一个数据源集群,数据最初存储在其中。例如,它可以是Vertica、Cassandra、Hadoop等。然后是一个处理集群,它从数据源集群读取数据,并将其写入分布式
Kafka
日志,这基本上是一个登台数据集群。
浏览 3
提问于2019-06-17
得票数 3
1
回答
金刚卡夫卡溪流
、
我正在尝试使用golang在Go中创建一个
kafka
流
客户端。据我所见,这只有在使用Java客户机时才有可能。我做了一些搜索,并找到了其他一些第三方图书馆,但没有正式的。另外,根据我有限的理解,我认为
流
是语法糖而不是标准消费者吗?这是对的吗?
浏览 4
提问于2021-12-13
得票数 1
3
回答
Kafka
:消费者API与
流
API
、
、
消费者和
流
的区别是什么?对我来说,如果有任何工具/应用程序使用来自
Kafka
的消息,那么在
Kafka
世界中,它就是一个消费者。
流
是如何不同的,因为这也消耗或产生信息给卡夫卡?
浏览 2
提问于2017-05-17
得票数 158
回答已采纳
1
回答
Kafka
流
:当
kafka
流
将
数据写入目标主题时如何捕获事件
、
我正在研究
kafka
-
streams
api。基本上,
kafka
流
从源主题中获取数据,在应用了一些过滤器后,它会将其写回目标
kafka
主题。<dependency> <artifactId>
kafka
-
streams
</artifactIdStreamsCo
浏览 2
提问于2019-01-26
得票数 0
2
回答
如何删除GlobalKTable存储的状态?
、
在应用程序启动时运行KafkaStreams.cleanUp() org.apache.
kafka
.
streams
.errors.StreamsException: Deserialization exception handler is setat org.apache.
kafka
.
s
浏览 0
提问于2018-03-09
得票数 2
3
回答
Spring执行器+
Kafka
流
-
将
kafka
流
状态添加到健康检查端点
、
、
我有一个春季引导应用程序,在那里我使用apache
streams
。我不使用春云
流
。我添加了执行器健康检查端点。2019-09-17 13:16:31.522 INFO 1 --- [ Thread-5] org.apache.
kafka
.
streams
.KafkaStreams : stream-client[lpp-model-stream-7e6e8fea-fcad-4033-92a4-5ede50de6e17]
Streams
client stopped complet伊利 如何
将</e
浏览 13
提问于2019-09-19
得票数 7
回答已采纳
1
回答
多点星火
流
读写器
、
读取、转换和写入具有不同结构的
流
的最佳方法是什么?我有一个来自两个不同的
kafka
主题的应用程序,其中有两个readstreams和writestreams。这两种
流
具有不同的结构,并遵循不同的转换过程。当
将
单个数据文件写入控制台时,我只看到控制台输出中的一个
流
,而不是两个
流
: .format("
kafka
")
浏览 2
提问于2022-09-11
得票数 0
回答已采纳
1
回答
春云卡夫卡
流
DefaultPollableMessageSource不可用
、
你好,我是测试弹簧云和卡夫卡
流
,并得到错误。
浏览 5
提问于2020-03-25
得票数 0
1
回答
具有
多个
avro注册表urls的KafkaAvroSerializer
、
、
、
、
我们有一个带有
多个
avroregistry的KafkaAvroSerde。在某个时候,serde尝试在1 url上注册模式时超时,但是由于它向
流
应用程序抛出IO异常,流线程关闭了。从
kafka
流
应用程序的角度来看,这种类型违背了在创建avro serdes时支持
多个
urls的功能,因为DSL堆栈中出现的运行时异常将关闭stream Thread。我们是否需要在应用程序逻辑中执行重试(当您简单地
将
主题具体化到商店中时,这可能是很棘手的)?当物化到本地rocksDB商店时,是否添加了 值以在
浏览 0
提问于2018-11-02
得票数 2
回答已采纳
点击加载更多
相关
资讯
系统解读Kafka的流和表(三):处理层
Kafka分布式流式处理平台
Kafka streams概览
Kafka实战(五)-核心API及适用场景全面解析
初探Kafka Streams
热门
标签
更多标签
云服务器
ICP备案
实时音视频
对象存储
云直播
活动推荐
运营活动
广告
关闭
领券