腾讯云
开发者社区
文档
建议反馈
控制台
登录/注册
首页
学习
活动
专区
圈层
工具
MCP广场
文章/答案/技术大牛
搜索
搜索
关闭
发布
文章
问答
(2249)
视频
沙龙
1
回答
Kafka
Streams
内部
主题
重定向
、
、
目前使用
Kafka
Streams
在客户端系统中聚合事件。当使用假事件运行我们的原型时,一切都运行得很完美。然而,在使用实际数据时,我们注意到在聚合过程中,
Streams
会自动创建
内部
主题
。虽然在理论上这是很好的,我们的客户有必要的,超级严密的安全性,不愿意授予我的开发团队
主题
创建特权。这意味着我们不能按原样运行
Streams
程序。不过,我们可以为自己创建
主题
,并使用这些
主题
来代替创建自己的
Kafka
主题</
浏览 21
提问于2021-06-08
得票数 0
1
回答
Kafka
流更改
内部
主题
名称
、
、
在我的Springboot应用程序中,我使用了
kafka
-
streams
:2.7.0。我必须加入两个KStreams并更改
内部
主题
名。StreamJoined.with(Serdes.String(), docSerde, docSerde).withStoreName("test123"))
kafka
浏览 2
提问于2022-04-04
得票数 0
1
回答
不应用于状态存储更改
主题
的
Kafka
流复制因子
、
、
我们通过集成使用
Kafka
流。我将复制因子配置为在所有
内部
Kafka
流
主题
中使用,方法是设置它适用于大多数由
Kafka
流在
内部
使用的重新分区/变更
主题
。对于这些
主题
,我仍然可以看到复制因子设置为默认1,也不可能使用Material
浏览 5
提问于2020-10-14
得票数 1
回答已采纳
2
回答
max.request.size参数的
kafka
流状态存储问题
、
然后,我按照链接添加了以下配置:然后应用程序可以正常工作,但是当创建了状态存储
内部
主题
时,但是当
Kafka
重新启动并且状态存储
主题
丢失/删除时,它可以正常工作,然后
Kafka
流处理器需要在启动应用程序时自动创建
内部
状态存储
主题
,此时它会抛出异常,即: "Aorg.apache.
kafka
.
streams
.errors.StreamsException
浏览 3
提问于2020-06-04
得票数 1
1
回答
Kafka
-
streams
:将
内部
主题
清除策略设置为delete无效
、
我使用
kafka
流约函数,它创建了一些状态存储、更改日志、
kafka
内部
主题
(比如app-KSTREAM-REDUCE-STATE-STORE-0000000002-changelog )。因此,我在
kafka
代码中设置了以下内容:props.put(StreamsConfig.TOPIC_PREFIX + TopicConfig.RETENTION_BYTES_CONFIGStreamsConfig.TOPIC_PREFIX +
浏览 0
提问于2018-09-02
得票数 6
回答已采纳
5
回答
Kafka
Streams
内部
主题
命名
、
根据文档(),
内部
主题
遵循命名约定<application.id>-<operatorName>-<suffix>。不幸的是,我们的安全需求不允许我们用我们的应用程序创建
主题
,并且需要提前设置。我正在尝试确定这些
主题
名称是否会一致。
浏览 2
提问于2018-10-04
得票数 4
1
回答
现有的
内部
主题
具有无效的分区
当在只有一个
Kafka
代理的测试设置中启动我们的
Kafka
Streams
应用程序时,我们看到以下错误,大约15次运行中就有1次:看起来
主题
是用预期的分区数(32)创建的。稍后,在相同的日志中,看起来有一个请求再次创建该
主题
。我们从来没有在非测试中看到过这种情况,我们使用6个
Kafka
代理
浏览 1
提问于2018-10-23
得票数 2
1
回答
未在WindowsStoreBuilder创建的changelog
主题
上设置retention.ms
Kafka
stream自动设置
内部
主题
的retention.ms和cleanup.policy,例如。物化的KTables。但是,我注意到WindowStoreBuilder创建的日志
主题
上没有设置retention.ms。 直观地说,日志
主题
也是
内部
主题
,可以/应该是自动配置的。
浏览 14
提问于2020-07-09
得票数 2
1
回答
将Ktable按键分组后无效(负)时间戳
、
我开始研究如何重新划分压缩的
主题
,方法是使用一个groupBy(),后面跟着一个(),但是当它开始读取创建的重新分区
主题
时,它开始抛出一个带有消息的: 在org.apach
浏览 1
提问于2019-08-28
得票数 0
回答已采纳
1
回答
Kafka
streams
-只需配置一次
我试图使用
kafka
streams
库来使用
kafka
的一次功能。我只将proessing.guarantee配置为exactly_once。此外,还需要将事务状态存储在
内部
主题
(__transaction_state)中。 我的问题是,如何自定义
主题
的名称?如果
kafka
集群被多个消费者共享,每个客户是否需要不同的交易管理
主题
?
浏览 2
提问于2018-08-16
得票数 0
1
回答
对于时间序列的滚动/聚合,流处理比批处理更好吗?
、
、
、
、
有两种方法,我可以想到: 流处理:使用
Kafka
Streams
API来卷起数据,并在Cassandra中摄取汇总的数据。
浏览 0
提问于2019-03-25
得票数 1
1
回答
更改日志/重新分区
主题
的复制因子应该是多少
、
我知道可以为
kafka
streams
配置复制因子这些
内部
主题
,我们的应用程序使用复制因子3作为常规应用程序
主题
,但到目前为止,我还没有为changelog/repartition
主题
配置复制因子,而我的假设是,如果一个broker死亡(或由于某些原因领导者改变),
kafka
stream应用程序将自动重新平衡到新的领导者。现在,如果
内部
主题
不使用复制因子,我不太确定正在运行的
Kafka
Stream应用程
浏览 6
提问于2019-03-04
得票数 3
1
回答
如何优化聚合,以便先对每个消费者进行聚合?
、
我有一个卡夫卡
主题
,名为input with multiple partitions。假设一条消息是这样的: "key": 123456, ... 记录按“键”进行分区(因此,相同的键将始终由相同的
Kafka
使用者处理untilWindowCloses(Suppressed.BufferConfig.unbounded())) .to("output"); 有了groupBy,
浏览 0
提问于2018-12-30
得票数 3
2
回答
为什么默认情况下将Kaka重新分区
主题
的retention.ms设置为-1?这不是在重新分区
主题
中无限保留消息吗?
、
、
可以为卡夫卡流提供像"retention.ms“、"cleanup.policy”这样的
主题
配置,比如*-changelog
主题
来删除无用的日志。但是,对于
内部
主题
,如*-重新分区
主题
,不可能提供
主题
配置值,尽管重新分区
主题
的默认"retention.ms“是"-1”,这意味着无限保留。如何删除或管理重新分区
主题
?否则,重新分区
主题
的大小将太大,可能会出现磁盘故障问题。 如何管理重新分区
浏览 5
提问于2021-01-30
得票数 3
回答已采纳
1
回答
卡夫卡流拓扑结构在生产中的演变
、
、
所有输入、中间和输出
主题
都是基于avro的
主题
。如何处理拓扑的更改(添加新步骤、新的输入-输入-输出
主题
),了解
kafka
-
streams
维护
内部
状态和changelogs,符合以下业务要求: 没有停机时间答案是介于使用
kafka
-
streams
-application-reset还是创建全新的消费者组(应用程序id)之间吗?
浏览 1
提问于2018-12-12
得票数 2
回答已采纳
1
回答
IOError(Stalefile)异常由
Kafka
Streams
RocksDB引发
、
、
、
应用程序/环境详细信息:Caused by: org.apa
浏览 1
提问于2021-09-17
得票数 0
1
回答
KafkaStreams:在KStream-KTable中处理反序列化异常
假设我们正在KStream和KTable之间进行
内部
连接,如下所示: JsonSerde当我运行应用程序并向这两个
主题
发送消息时,join将按预期的方式工作。.
主题
(流
主题
)发送消息时,应用程序将使用sensorValues关闭查看堆栈跟踪,我发现由于SensorMetaData中的模式更改,它在执行联接时未能反序列化SensorMetaData。反序列化方法中的断点显示,它试图从
主题
&qu
浏览 2
提问于2020-06-06
得票数 0
回答已采纳
1
回答
当您使用应用程序重置工具时,
Kafka
状态存储会发生什么?
、
当您运行
Kafka
streams
应用程序重置工具以将应用程序重置为特定的时间戳(例如T-n)时,状态存储会发生什么?文档内容为:“
内部
主题
:删除
内部
主题
(这会自动删除任何已提交的偏移量)”(
内部
主题
在执行状态存储的changelog
主题
时由
Kafka
Streams
应用程序在
内部
使用) 这是否意味着我丢失了状态存储/
浏览 13
提问于2020-02-25
得票数 1
回答已采纳
1
回答
有多个
主题
分区的
Kafka
流无法重新均衡错误
、
当源
主题
分区计数= 1时工作正常。如果我将分区增加到任何大于1的值,我会看到下面的错误。既适用于低级,也适用于DSL API。有什么建议吗?可能会遗漏什么?org.apache.
kafka
.
streams
.errors.StreamsException: stream-thread [StreamThread-1] Failed to rebalanceat org.apache.
kafka
.
streams
.processor.internals.StreamThread.run(StreamThread
浏览 3
提问于2017-02-19
得票数 6
回答已采纳
1
回答
KTables如何在创业时与卡夫卡互动?
、
kafka
流如何保证由
kafka
broker分配给它的分区与分配给其他
主题
的分区匹配?好像需要协调一下吗?而且,卡夫卡流总是从一开始就阅读压缩的
主题
,还是从最新的偏移量中读取?一旦它从压缩的
主题
中读取消息,它是否提交偏移量?
浏览 2
提问于2020-07-31
得票数 0
回答已采纳
点击加载更多
相关
资讯
Kafka streams概览
初探Kafka Streams
Kafka 1.0.1案例详解之Kafka Streams
Kafka Streams与Quarkus:实时处理事件
为什么我不推荐Kafka Streams和KSQL?
热门
标签
更多标签
云服务器
ICP备案
云直播
即时通信 IM
实时音视频
活动推荐
运营活动
广告
关闭
领券