腾讯云
开发者社区
文档
建议反馈
控制台
登录/注册
首页
学习
活动
专区
圈层
工具
MCP广场
文章/答案/技术大牛
搜索
搜索
关闭
发布
文章
问答
(9999+)
视频
沙龙
1
回答
在
使用
librdkafka的
kafka
生产者中,结构作为输入而不是字符串
、
、
、
我需要在生产者中接受输入作为结构,而不是字符串,并在消费者中
使用
librdkafka库打印它。我对生产者代码进行了更改,甚至能够获得结构,但在消费者中,如果需要更多更改,它不会显示plz帮助。* The callback is only triggered from rd_
kafka
_poll() andrd_
kafka
_conf_set_dr_msg_cbreference it again after */
浏览 21
提问于2021-06-22
得票数 1
1
回答
哪些是
Avro
Schema命名空间的有效(和无效)字符
、
、
、
我有一个名称空间为"ca.gms.api-event-log“的
Avro
模式。我已经
使用
此模式
将
消息
序列化
为
Kafka
,成功地向
Kafka
模式注册表注册了该模式,并
使用
Kafka
连接器
将
数据以.
avro
文件的形式
发送到
亚马逊S3。到目前为止,没有任何问题。我现在正在尝试
使用
Azure数据工厂
将
数据从亚马逊网络服务S3复制到Azure,但它抱怨以下问题:
浏览 15
提问于2019-12-31
得票数 1
2
回答
在
使用
kafka
控制台
使用
者时显示无效字符。
、
、
当
使用
卡夫卡控制台消费者或kt(卡夫卡的GoLang工具)从卡夫卡主题消费时,我得到的是无效字符。\u0000\ufffd?尽管
Kafka
实际上可以
将
适当的数据汇到数据库中。
浏览 0
提问于2019-02-04
得票数 0
回答已采纳
1
回答
无法
使用
汇合平台
将
Avro
数据推送到HDFS
、
、
、
、
我有一个系统
将
Avro
数据推入到多个
Kafka
主题中。 在更改主题名称之后,我启动了
kafka
-connect-hdfs。这一步骤也是成功的。在此之后,我开始
将
数据推送给<e
浏览 2
提问于2017-01-20
得票数 1
2
回答
如何
使用
Avro
和Flink解码
Kafka
消息
、
、
、
我正在尝试
使用
AVRO
1.0.3从
Kafka
主题读取Flink数据。 }java -jar /path/to/
avro
-tools-1.8.1.jar(LegacyFetche
浏览 3
提问于2016-08-02
得票数 3
回答已采纳
1
回答
如何
将
水磨机中的unmarshaler (lib for
Kafka
)改为
avro
、
、
、
我正在尝试调试为什么不可能反
序列化
我们通过
Kafka
接收的数据,并基于一些特定的模式
使用
avro
序列化
。 它看起来像这样。有一个用java编写的生产者,它根据某种
avro
模式
序列化
数据,
将
数据
发送到
Kafka
主题,而在消费者端有一个用Golang编写的程序。但每次我尝试反
序列化
该数据时,我都会收到错误消息,指出无法反
序列化
,因为字符串的长度小于零。我在
Kafka
中
浏览 1
提问于2021-09-12
得票数 1
1
回答
avro
.io.AvroTypeException: datum <
avro
data>不是架构{...}的示例
、
、
、
我们正在努力
将
Apache Storm与
Kafka
的Confluent框架集成在一起。在Pyleus bolt中,我们能够获得
Kafka
消息,但是,我们不能将其反
序列化
为
JSON
。我们
使用
了两个名为"
avro
_
json
_serializer“和"
avro
”的python-
Avro
模块。当我尝试反
序列化
我放在一起的简单
Avro
文件时,它们会起作用。
Kafk
浏览 1
提问于2016-03-01
得票数 0
1
回答
如何发布**附件** (pdf,xls,xml.)卡夫卡主题*
AVRO
支持
将
文件附加到其中吗?
浏览 1
提问于2020-07-13
得票数 0
回答已采纳
1
回答
从Logastash
发送到
Kafka
和
Avro
、
、
、
、
我试图
使用
avro
模式
将
数据从logstash
发送到
kafka
。我的logstash输出看起来如下: codec =>
avro
{ } at org.apache.
kafka
.connect.runtime.WorkerTask
浏览 5
提问于2020-04-22
得票数 1
回答已采纳
1
回答
Kafka
c#消费者
json
响应反
序列化
问题
、
、
我已经通过本指南设置了Postgres连接器: using Newtonsoft.
Json
.Linq; { var
json
config
浏览 3
提问于2022-04-27
得票数 0
回答已采纳
1
回答
使用
avro
序列化
将
整个
Json
发送到
kafka
?
、
、
、
、
我有一个
json
文件,我想把它的内容发送给一个
Kafka
消费者。
kafka
使用
Avro
和一个遵守
Json
的模式我想发送.So有没有办法读取
json
,然后通过
kafka
发送它的全部内容,而不需要首先解析
json
,然后分别发送带有键和值的所有内容? 谢谢。
浏览 17
提问于2020-01-17
得票数 1
1
回答
当
序列化
一个
Kafka
对象时,我会得到"org.apache.
kafka
.common.errors.SerializationException:未知的魔法字节!“
、
、
、
、
我有一个Java应用程序,它
使用
Kafka
来
使用
Avro
消息。但是,当我的@KafkaListener试图反
序列化
消息时,我会得到以下错误消息: org.springframework.
kafka
.listener.ListenerExecutionFailedExc
浏览 2
提问于2021-05-05
得票数 0
回答已采纳
1
回答
消费KSQL流中的
AVRO
Kafka
主题时出错
、
我用VALUE_FORMAT='
JSON
' TOPIC='MYTOPIC'在KSQLDB中创建了一些虚拟数据作为流 设置已经结束了Docker-compose。我正在运行
Kafka
代理、Schema-registry、ksqldbcli、ksqldb-server、zookeeper 现在,我想
使用
该主题中的这些记录。我的第一个也是最后一个方法是在命令行上
使用
以下命令 docker run --net=host --rm confluentinc/cp-schema-
浏览 20
提问于2021-04-23
得票数 0
回答已采纳
1
回答
将
KTable或Kstream与Spring Cloud Stream配合
使用
,并
使用
Avro
、
、
、
、
我想对我的
kafka
流主题进行交互式查询。现在我想
使用
kafka
流绑定器,但我不能让它工作。也许有人能帮我个忙。segments-in: destination: segment
浏览 0
提问于2018-08-03
得票数 1
1
回答
如何避免对死信主题
使用
架构注册表?
、
、
、
如果处理
使用
的消息的逻辑抛出异常,则错误处理程序将将消息
发送到
DLT。我希望以
JSON
的形式发送该消息,并忽略任何模式注册表内容。我遇到了问题,因为如果我尝试
使用
JSON
序列化
程序,它就无法
序列化
,因为它是一个
Avro
对象。value-serializer: com.amazonaws.services.schemaregistry.serializers.
avro
.AWSKafkaAvroSerializer第二个问题是原始侦听器和
浏览 14
提问于2022-11-22
得票数 0
回答已采纳
1
回答
卡夫卡到BigQuery,
使用
信息的最佳方式
、
、
、
我需要将消息接收到我的BigQuery表,我想知道
使用
这些消息的最佳方式是什么。我在AWS的
Kafka
服务器会生成
AVRO
消息,根据我所看到的,Dataflow需要接收
JSON
格式的消息。因此,我搜索并找到了一篇文章,解释了如何向PubSub接收消息,但在PubSub上,我只看到在这种体系结构中,他们在GCP上创建了一个
Kafka
来生成消息。我需要知道的是: 可以从外部的
Kafka
服务器在PubSub上接收
AVRO
消息,然后
使用
messages反<
浏览 1
提问于2021-04-27
得票数 3
回答已采纳
1
回答
如何
序列化
符合
AVRO
模式的
JSON
消息?
、
、
、
给定一个
AVRO
模式,我创建一个符合此模式的
JSON
字符串。如何
使用
AVRO
序列化
JSON
字符串以将其传递给卡夫卡生产者,后者需要
AVRO
编码的消息? 我发现的所有示例都没有
JSON
作为输入。顺便说一句,接收方随后
将
消息反
序列化
为POJO --我们正在不同的技术栈中工作。所以,基本上是
JSON
->
Kafka
-> POJO。
浏览 1
提问于2022-02-01
得票数 0
1
回答
java中的
Avro
to
json
转换器
、
、
、
我正在从
kafka
读取
Avro
作为字符串,我正在尝试
使用
java代码
将
字符串
avro
转换为
Json
。@KafkaListener(topics = "#{'${
kafka
.consumer.topics}'.split(',')}", containerFactory = "kafkaListenerContainerFactory= message.getBytes(); //T
浏览 188
提问于2021-07-26
得票数 1
1
回答
在没有模式注册表的ksqlDB中处理
Avro
、
、
、
我正在
使用
一个
Kafka
部署,它是,而不是
使用
任何的。 我正在寻找解决这个问题的方法,以便能够在这些
浏览 0
提问于2020-05-05
得票数 0
回答已采纳
1
回答
Kafka
:所有消息在流中失败,数据在主题中
、
、
、
我有主题post_users_t,当我在它上面
使用
PRINT命令时,我得到 rowtime: 4/2/20 2:03:48 PM UTC, key: <null>, value: {"userid":从开头打印主题: ksql> print 'post_users_t' from beginning limit 2; Key format: SESSION(
AVRO
) or HOPPING(
AVRO
or SESSION(
JSON
) or HOPP
浏览 13
提问于2020-04-02
得票数 0
回答已采纳
点击加载更多
相关
资讯
深入理解Kafka Connect:转换器和序列化
Apache Spark 2.4 内置的 Avro 数据源实战
如何将kafka中的数据快速导入Hadoop?
基于Kafka技术栈构建和部署实时搜索引擎的实践
Spark 2.4 原生支持了avro,别再引用第三方库了
热门
标签
更多标签
云服务器
ICP备案
实时音视频
对象存储
云直播
活动推荐
运营活动
广告
关闭
领券