腾讯云
开发者社区
文档
建议反馈
控制台
登录/注册
首页
学习
活动
专区
圈层
工具
MCP广场
文章/答案/技术大牛
搜索
搜索
关闭
发布
文章
问答
(1658)
视频
沙龙
1
回答
Kafka
Connect
SMT
添加
Kafka
头
字段
、
、
我需要找到或编写一个
SMT
,它将
添加
头
字段
到一个请求。请求缺少一些类型
字段
,我想
添加
它们。 如何在
SMT
中
添加
标题?我所看到的只是如下所示的记录转换,但如果这是我想要更改或
添加
字段
的标题怎么办?
浏览 13
提问于2020-08-07
得票数 0
回答已采纳
2
回答
将
Kafka
Connect
JDBC源连接器输出转换为自定义格式
、
、
我已经实现了一个
Kafka
Connect
JDBC Source连接器,它连接到Oracle-Database,并将数据写入
Kafka
-Topic。目前,我已经在设置value.converter.schemas.enable=false的情况下设置了选项value.converter=org.apache.
kafka
.
connect
.json.JsonConverter该选项允许将JSON数据写入
Kafka
主题(顺便说一句,它工作得很好),但不包括在将数据发送到
Kafka</
浏览 3
提问于2021-02-18
得票数 0
1
回答
如何通过
Kafka
JDBC连接器在消息中设置主键
、
标题怎么说,有一种方法可以设置
Kafka
JDBC Source连接器从数据库读取的记录的主键吗?这是来自
connect
-file-source.properties的配置 name=jdbc_source_postgres_foobar_01value.convert
浏览 22
提问于2020-10-16
得票数 0
2
回答
debezium生成事件的
Kafka
Connect
日期处理
、
、
"name": "cdc.swip.bi.ods.sink.contract", "connector.class": "io.confluent.
connect
.jdbc.JdbcSinkConnector"SqlServerDatabaseDialect", "key.converter&
浏览 222
提问于2019-07-30
得票数 5
回答已采纳
1
回答
kafka
-
connect
-elasticsearch:如何根据
Kafka
topic的header中的某个值删除文档
、
、
、
我正在使用
Kafka
Connect
加快速度。尝试使用
Kafka
Connect
Elasticsearch Service接收器连接器将我们的数据从
Kafka
移动到Elasticsearch。我们的应用程序发布一个删除操作的事件,并将其设置为
Kafka
消息中标
头
值的一部分。我们希望删除文档本身,而不是使用此删除操作信息更新elastic中的文档。我们如何使用
Kafka
Connect
来读取这个头值并从Elastic中删除给定密钥的文
浏览 23
提问于2021-04-07
得票数 0
回答已采纳
1
回答
Kafka
使用动态值连接InsertField变换
、
、
、
我遇到了这样一种情况:我需要在
Kafka
Connect
记录中插入一个新
字段
,但似乎InsertField转换仅限于静态值。https://docs.confluent.io/current/
connect
/transforms/insertfield.html 有没有办法根据记录中的其他
字段
添加
动态值?因此,我需要以下
字段
: "insert.mode": "ups
浏览 24
提问于2020-06-09
得票数 2
回答已采纳
1
回答
Kafka
:当数据汇到数据库表时,avro模式中的任何
字段
都可以忽略吗?
、
、
、
avro架构中的某些
字段
不需要在数据库表中下沉。table CLEARING_TEST ID int not null primary key,); 我能忽略卡夫卡连接器中的STAT
字段
吗
浏览 3
提问于2020-02-17
得票数 1
回答已采纳
1
回答
MongoDb Sink连接器::JsonParseException: JSON阅读器期待一个值,但找到了“dist”
、
、
、
、
etc/schema-registry/
connect
-avro-standalone.properties share/confluent-hub-components/confluentinc-
kafka
-
connect
-mqtt(org.apache.
kafka
.
connect
.runtime.Worker:235) [2018-12-25 23:07:52,616] INFO Instantiated connectorMyMongoDbSinkConnec
浏览 1
提问于2018-12-25
得票数 0
1
回答
在
Kafka
连接源连接器中使用消息键
、
我正在使用源连接器从数据库中的视图中读取数据,并将其发布到
kafka
上,它运行良好。 我的用例是,用户可以创建多个对象,并且对象的顺序在我的应用程序中很重要。我的问题是如何在
Kafka
连接源连接器中定义消息键?
浏览 1
提问于2018-06-21
得票数 5
回答已采纳
1
回答
如何在
Kafka
Connect
JDBC Source Connector和多个表中使用单条消息转换?
、
我想在使用
Kafka
Connect
Source JDBC连接器导入表格时设置mesage键。当有多个表被定义为从JDBC连接器读取时,
Kafka
Connect
/Source中的单个消息转换(
SMT
)如何针对正确的
字段
?
SMT
需要一个列名,当有多个表时,列名可能会有所不同。我没有看到一种根据表名或类似名称过滤
SMT
定义的方法。下面的代码示例运行良好,因为它只是一个表。 但是,如果您有不同的表,例如User、Order、Product,该怎
浏览 12
提问于2019-07-13
得票数 2
回答已采纳
1
回答
Kafka
Mongo Sink连接器,如何使用
SMT
时间戳转换JSON数组中的日期
字段
、
、
、
"transforms":"TimestampConverter", "transforms.TimestampConverter.type": "org.apache.
kafka
.
connect
.transforms.TimestampConvertertransforms.TimestampConverter.target.type": "string", "transforms.TimestampConverter.field" :
浏览 15
提问于2020-07-26
得票数 0
回答已采纳
1
回答
过滤数据库中的行
、
、
我想知道
kafka
平台是否适合下面的工作。例如,如果基于日期,将来可能会满足条件,那么是否有机会再次过滤被拒绝的邮件,以最终通过过滤器并进一步处理?在给
Kafka
提供数据之前先过滤数据行是不是更好? 谢谢。
浏览 9
提问于2017-08-11
得票数 0
回答已采纳
1
回答
在使用JDBC连接器编写卡夫卡主题之前,是否有一种加密数据的方法?
、
、
、
我们刚开始使用
Kafka
( connector ),并且有一个使用JDBC源连接器的项目。使用这种方法,在将数据存储在主题上时,是否也可以对数据进行加密以隐藏个人信息等?
浏览 2
提问于2020-10-23
得票数 1
回答已采纳
2
回答
Kafka
连接-变压器-黑名单嵌套
字段
、
是否可以使用带有
Kafka
连接的
SMT
删除嵌套
字段
?我知道以下几点非常有效:"transforms.ReplaceField.type": "org.apache.
kafka
.
connect
.transforms.ReplaceField$Value", "transforms.ReplaceField.blacklist": "Fie
浏览 12
提问于2019-10-31
得票数 1
回答已采纳
1
回答
当
添加
到MirrorMaker -mirror-maker.properties连接2时,
SMT
不起作用
、
、
、
正在尝试将此架构id转换
SMT
()应用到mirror maker群集,但它无法识别该
SMT
。如果我使用
SMT
作为
kafka
connect
worker配置,它可以正常工作。错误: at org.apache.<
浏览 11
提问于2020-05-12
得票数 1
1
回答
如何为来自IoT集线器的每一位新制作人
添加
一个新的卡夫卡主题?
、
、
、
、
Toketi“Hub”提供了以下配置文件(edge节点)tasks.max=1IotHub.EventHubCompatibleName=iothub-toketi
浏览 0
提问于2019-04-16
得票数 3
1
回答
Kafka
Connect
:如何提取
字段
、
、
、
多亏了Debezium的ExtractNewRecordState
SMT
,我在我的主题中得到了以下信息。\":1594566354199}", "created_on":1594595154267}
添加
value.converter.schemas.enable\":1594566354199}", "payload":"MSG 19"
浏览 16
提问于2020-07-12
得票数 1
1
回答
Kafka
-不带表名连接topic.prefix
、
我使用的是jdbc源连接器,我的表名具有DB引擎可以接受的特殊字符(即$),但是当我使用下面的配置运行
kafka
-
connect
时,它试图创建带有这个前缀的
kafka
主题,加上表名,但是表名上的特殊字符不一定是
kafka
可以接受的。
浏览 63
提问于2019-09-19
得票数 0
1
回答
在用debezium将数据从MongoDB传输到
kafka
时,如何进行类型转换?
、
、
、
、
我用Debezium把这些文档传送到
Kafka
。我怎样才能让ObjectId被写成卡夫卡的UUID?U06d2Rk4nUG7Fz3iASM9LQ=="), "BrandList" : [ "Sony2", "SUNY2" ],}
Kafka
浏览 4
提问于2022-03-03
得票数 0
回答已采纳
1
回答
Kafka
连接如何使名称空间与数据库名称无关
、
、
、
、
"database.server.id": "184054", "database.history.
kafka
.bootstrap.servers": "
kafka
:9092", "database.history.
kafka
.topic": "schema-changes.inventory&q
浏览 0
提问于2020-05-23
得票数 2
点击加载更多
相关
资讯
Kafka 1.0.1案例详解之Kafka Connect
这可能是北半球最暖的Kafka Connect数据管道教程:3
打造实时数据集成平台 DataPipeline基于Kafka Connect应用
深入理解Kafka Connect:转换器和序列化
基于Kafka Connect的应用实践——打造实时数据集成平台
热门
标签
更多标签
云服务器
ICP备案
云直播
即时通信 IM
实时音视频
活动推荐
运营活动
广告
关闭
领券