腾讯云
开发者社区
文档
建议反馈
控制台
登录/注册
首页
学习
活动
专区
圈层
工具
MCP广场
文章/答案/技术大牛
搜索
搜索
关闭
发布
文章
问答
(8152)
视频
沙龙
1
回答
Apache
NiFi
GetMongoProcessor
-
不
连续
生成
流
文件
、
我已经设法使用GetMongo处理器将
NiFi
连接到MongoDB。我使用query来限制从MongoDB返回的数据量,但它仍然是数百万条记录。我已经执行了GetMongo处理器,我预计当从mongo db游标读取记录时,它将被批处理并最终写入到
流
文件
中。这没发生过。记录从MongoDB流出(基于tcpdump和网络流量),但仍在从游标获取结果时,没有发送
流
文件
。查看记录提取10分钟后的状态: 仅出于测试目的,当我将"limit“参数设置为仅获取100条记录时,会发出
流
<
浏览 11
提问于2019-03-16
得票数 0
回答已采纳
2
回答
如何使用
流
创建正在运行的
nifi
docker镜像
、
我启动了一个
apache
/
nifi
容器,构建并配置了一个
流
。我不清楚是什么
文件
(nar、xml等)需要对用户要运行的映像可用。
浏览 5
提问于2020-09-22
得票数 1
1
回答
是否使用.bat
文件
启动数据
流
?
如何在
不
访问
apache
nifi
接口的情况下启动我创建的数据
流
。是否可以通过运行.bat
文件
来触发run?我是
apache
nifi
的新手,对
apache
nifi
的局限性一无所知。我将数据
流
保存为模板,并希望在
不
访问
apache
nifi
界面的情况下启动它。
浏览 0
提问于2019-10-27
得票数 0
1
回答
在UpdateAttribute中处理表达式语言异常
我看到当
流
文件
带着无效数据到达时,由UpdateAttribute处理器从表达式
生成
的ProcessException异常的
连续
流
。o.a.n.p.attributes.UpdateAttribute UpdateAttribute[id=e3d11ce6-327b-1b5b-e764-xxx] Failed to process session due to org.
apache
.
nifi
.processor.exception.ProcessException: U
浏览 29
提问于2021-02-09
得票数 0
1
回答
如何使用
Apache
Nifi
将数据从HDFS传输到Oracle?
我是
Nifi
的新手,正在寻找有关使用
Nifi
处理器以获得高达100MB/s速度的信息。
浏览 29
提问于2020-04-10
得票数 0
回答已采纳
1
回答
如何捆绑使用多个包的自定义
NiFi
处理器?
、
、
、
我已经编写了一个自定义
NiFi
处理器,它使用一些Hadoop类,处理
流
文件
和序列化往返于Avro的
流
文件
。据我所知 要使用Hadoop类而不将它们打包为NAR的一部分,我需要
nifi
-hadoop-nar包和来将
流
文件
内容序列化到/从Avro,我需要RecordSetWriter和读取器,这是record-serialization-services-api当我部署NAR并重新启动
NiFi
时,它会引发java.lang.Cl
浏览 6
提问于2019-09-25
得票数 0
1
回答
Nifi
调用http如何获取值并在post数据期间添加为标头
我有一个
NiFi
流
,它需要将数据发布到其他服务器,在发布之前,它需要从我的内部服务器或
Nifi
分布式缓存中获取一个值。
浏览 100
提问于2020-01-22
得票数 0
1
回答
如何在
apache
的ExecuteScript处理器中编写pythoncode?
、
、
、
嗨,我必须在
apache
nifi
中执行下面的python代码,我的
nifi
流程如下: ,我的python代码如下(我已经在本地毁了它,它工作得很好) ‘ import pandas as pdmapper={str(value[0]):n for n,value in labels.to_dict(orient='list').items()}, axis=1, inplace=True) 我的
nifi
流
: ? 其中cdr来自GETSFTP,标签来自get
文件
浏览 16
提问于2019-06-20
得票数 0
1
回答
如何在
Apache
PostgreSQL中进行批量插入而
不
指定物理csv
文件
、
、
、
我需要在
Apache
命令中
不
指定物理PostgreSQL
文件
的情况下对
NiFi
表进行批量插入。我只是不能将CSV
文件
存储在磁盘上,并且希望使用来自以前处理器并已经采用CSV格式的
流
文件
进行批量插入(或者我可以将它更改为json,这不是问题)。请注意,在
Apache
NiFi
中,最好的方法是什么?
浏览 1
提问于2021-03-01
得票数 1
回答已采纳
2
回答
Nifi
:使用MergeContent处理器将所有必要的
流
文件
合并到一个快照中
、
这是关于
Nifi
中的MergeContent处理器的问题。目前,我需要以一种方式将所有具有一个特定属性的
流
文件
组合在一起。但是发生的情况是,由于有如此多的flowFile具有相同的属性,所以处理器
生成
几个与该属性合并的不同的
流
文件
,并且这几个
流
文件
应该被合并到一个大的
流
文件
中。它们有没有办法等待所有具有相同属性的
流
文件
进入MergeContent处理器,并同时合并所有这些
流
浏览 285
提问于2019-05-29
得票数 3
1
回答
NiFi
如何在内存或磁盘中存储
流
数据
、
、
当下一个处理器无法接收或处理任何数据时,有人能详细解释
NiFi
处理器(如GetFile或QueryDatabaseTable )是如何存储行的吗?
浏览 4
提问于2017-05-15
得票数 5
回答已采纳
1
回答
使用
Apache
气流启动
Apache
Nifi
-如何
生成
流
文件
、
、
、
我已经为我的ETL管道设置了
Apache
,并且希望使用
Apache
气流启动(以及稍后监视)一个特定的处理器。我看到了在气流DAG中实现这一目标的两种方法: queue/processorTrigger 从零开始
生成
一个
流
文件
,并将其插入
Nifi
(一个“
生成
流
文件
处理器”)以创建一个
流
文件
,该
流
文件
依次插入到队列中airflow.operators.py
浏览 3
提问于2021-03-15
得票数 0
回答已采纳
1
回答
是否可以将
Nifi
放到多个HDFS
文件
夹中?
、
、
我需要将一堆json
文件
流式传输到
Nifi
,然后
Nifi
再转到HDFS。
Nifi
需要查看json
文件
中的创建日期(UNIX格式),然后将其路由到适当的HDFS
文件
夹。我的处理器设置如下: 消费Kafka -> RouteOnContent (使用正则表达式^"creationDate":\"0-9{4}-0-9{2}-0-9{2}$) -> PutHDFS 每天都有一个HDFS
文件
夹据我所知,
Nifi
没有动态创
浏览 15
提问于2019-01-29
得票数 0
1
回答
是否使用
NiFi
中的Kafka Consumer将同一分区中的事件转到同一FlowFile
post将最大轮询记录设置为1,以保证一个
流
文件
中的事件来自同一分区。https://github.com/
apache
/
nifi
/blob/ea9b0db2f620526c8dd0db595cf8b44c3ef835be/
nifi
-nar-bundles/
nifi
-kafka-bundle/
nifi
-kafka-0-9-processors/src/main&
浏览 11
提问于2019-01-19
得票数 0
回答已采纳
1
回答
Nifi
org.
apache
.thrift.transport.TTransportException
、
、
、
at org.
apache
.
nifi
.processors.hive.PutHiveStreaming.lambda$onHiveRecordsError$1(PutHiveStreaming.java:527) at org.
apache
.
nifi
.pro
浏览 1
提问于2017-11-09
得票数 0
1
回答
如何调用
NIFI
REST API启动/停止
生成
流
文件
我想调用Start和Stop使用
NIFI
REST API
生成
流
文件
。 例如,从python或shell脚本中,我可以使用
NIFI
REST API调用
NIFI
生成
流
文件
浏览 35
提问于2021-02-22
得票数 0
1
回答
如何在运行时获取onTrigger函数中的集群节点数?
我有一个有6个节点的
nifi
集群,我想在我的自定义处理器的onTrigger函数中执行一些负载均衡: @Override public void onTrigger(ProcessContext context
浏览 19
提问于2019-10-08
得票数 0
回答已采纳
1
回答
基于
文件
结构的蜂箱表创建
、
因此表结构必须与
文件
结构同步。但是,如果
文件
大小很大,而且我们不知道它的结构,例如,列及其数据类型。新来的蜂巢,如果我的理解是错的,请原谅。 谢谢
浏览 1
提问于2018-07-07
得票数 2
回答已采纳
1
回答
对于初学者来说,在docker实例中使用
Apache
所以,我很想,基本上,能够旋转一个容器,运行
Nifi
,我已经有了一个模板。我对集装箱非常陌生,对
Nifi
也相当陌生。我想我知道如何旋转一个
Nifi
容器,但不知道如何使它每次都自动运行我的模板。
浏览 0
提问于2018-03-23
得票数 2
1
回答
如何使用
NiFi
进程会话迁移功能?
、
、
我试图在读取
流
文件
的同时输出
流
文件
。(它在读取完
文件
的一部分而不是整个
文件
后立即输出) 但是,ProcessSession似乎要求在目标处理器可以读取所有
流
文件
之前提交它。下面是ProcessSession代码:github.com/
apache
/
nifi
/blob/master/
nifi
-api/src/main/ja
浏览 12
提问于2020-01-03
得票数 1
点击加载更多
相关
资讯
Apache NiFi介绍及使用体验
Apache Calcite 动态数据管理框架入门介绍
大数据流处理:Flume、Kafka和NiFi对比
程序员需要关注的十个大数据技术
大数据技术分享:十大开源的大数据技术
热门
标签
更多标签
云服务器
ICP备案
云直播
实时音视频
即时通信 IM
活动推荐
运营活动
广告
关闭
领券