腾讯云
开发者社区
文档
建议反馈
控制台
登录/注册
首页
学习
活动
专区
工具
TVP
最新优惠活动
文章/答案/技术大牛
搜索
搜索
关闭
发布
精选内容/技术社群/优惠产品,
尽在小程序
立即前往
文章
问答
(8693)
视频
沙龙
1
回答
Flink
作业
群集
Kubernetes
从
保存
点
恢复
、
我们目前在
kubernetes
上以
作业
集群的形式运行
flink
,使用的是helm模板:https://github.com/docker-
flink
/examples/tree/master/helm/
flink
(添加了一些配置)。如果我想关闭集群,重新部署一个新的映像(由于应用程序代码更新),然后重新启动,我该如何
从
保存
点
恢复
?jobmanager命令
浏览 17
提问于2020-06-11
得票数 0
1
回答
Flink
职务
群集
与会话
群集
-部署和配置
、
、
、
、
我正在研究
Flink
1.9.1的停靠/K8部署的可能性。目前,我们确实认为我们将尝试采用工作集群的方法,尽管我们想知道这个社区的趋势是什么?我们不希望每个
Flink
集群部署一个以上的
作业
。 在这两种情况下,
Flink
的UI显示每
浏览 1
提问于2020-01-10
得票数 2
回答已采纳
1
回答
如何扩大/缩小正在运行的
Flink
集群?
我想如果我更新了TaskManager部署的副本,
Kubernetes
会为我增加/减少TM的数量,但我不确定这是否是我所需要做的全部。我还需要做些什么来使这份工作适应更多/更少的TMs吗?
浏览 3
提问于2019-11-10
得票数 1
回答已采纳
3
回答
Apache on
Kubernetes
-如果工作经理崩溃,
恢复
工作
、
、
、
我想在
kubernetes
上运行一个
flink
作业
,使用一个(持久的)状态后端,似乎崩溃的任务管理器没有问题,因为如果我正确理解的话,他们可以询问
作业
管理器需要从哪个检查点
恢复
。在这个上,我读到动物园管理员需要能够知道工作经理需要使用什么检查点来
恢复
和进行领导人选举。由于
kubernetes
将在
作业
管理器崩溃时重新启动
作业
管理器,是否有一种方法可以让新的
作业
管理器
恢复
作业
,而不必设
浏览 0
提问于2018-08-30
得票数 6
回答已采纳
2
回答
是否有可能在
Kubernetes
中运行一个具有高可用性、检查点和
保存
点
的单个容器
Flink
集群?
、
、
我目前正在运行一个
Flink
会话集群(
Kubernetes
,1 JobManager,1 TaskManager,,S3),其中运行多个
作业
。我们正在考虑迁移到使用
作业
集群,但是对于将要产生的容器的数量有保留。每个
作业
一个容器不是问题,但是每个
作业
有两个容器(1 JM和1 TM)引起了对内存消耗的担忧。有几个
作业
需要高可用性和使用检查点以及在
保存
点
通过窗口聚合事件时
从
/接受
保存
点<
浏览 5
提问于2019-12-31
得票数 1
回答已采纳
1
回答
Kubernetes
和Native
Kubernetes
上的
Flink
部署有何不同
、
、
b/w Native
Kubernetes
和
Kubernetes
部署的主要区别是什么? 我是
Kubernetes
的新手,并试图了解
Flink
在它们上的部署有何不同。
浏览 53
提问于2020-08-06
得票数 3
回答已采纳
1
回答
Apache在
作业
部署期间重复消息处理,并以ActiveMQ为源
、
、
、
、
Given,在部署(滚动)
作业
或由于错误/错误导致
作业
下降时,如果ActiveMQ中有未使用的消息或
Flink
中的未确认消息(但写入数据库),则当
作业
恢复
(或部署新
作业
浏览 1
提问于2020-03-05
得票数 1
2
回答
无法将
保存
点
从
1.2.1还原为1.4
、
我们已经用1.4版本部署了一个新的
Flink
实例。在尝试
从
旧的1.2.1部署
恢复
保存
点
时,尝试还原的所有
作业
都会出现相同的错误: org.apache.
flink
.runtime.execution.SuppressRestartsException:at org.apache.
flink
.runtime.jobmanager.JobManager$$anonfun$org$apache$
flink
$runtime$jobmanage
浏览 6
提问于2018-01-04
得票数 2
回答已采纳
2
回答
Apache
Flink
: IDE执行中的
作业
恢复
未按预期工作
、
、
我有一个用
Flink
(Scala)编写的示例流式WordCount示例。在它中,我想使用外部化的检查点在失败的情况下进行
恢复
。但它并没有像预期的那样工作。kafkaConsumerProperties.setProperty("zookeeper.connect", "localhost:2181")
浏览 25
提问于2019-04-15
得票数 1
回答已采纳
1
回答
从
外部化检查点问题
恢复
Flink
、
、
我使用的是在从docker-
flink
安装的ECS中运行的
Flink
。我已经通过
flink
-conf.yaml中的state.checkpoints.dir到S3启用了外部检查点到AWS S3。现在,根据
Flink
文档here,如果我们想在出现故障的情况下
从
检查点
恢复
,我们必须使用bin/
flink
run -s :checkpointMetaDataPath [:runArgs],但我使用
FLINK
_HOME所以我不能弄清楚我的
Fl
浏览 35
提问于2020-04-03
得票数 0
回答已采纳
1
回答
Flink
:管道如何优雅地关闭自身?
、
我正在研究一个具有无限源码的
Flink
管道。如何
从
管道代码内部优雅地关闭管道,以便检查点等工作,而不调用外部服务?System.exit()似乎太粗糙了,在启用重启的情况下抛出异常将不起作用。
浏览 104
提问于2021-11-17
得票数 0
1
回答
在执行纱线应用程序杀死并再次运行后,
flink
是否会从上一次偏移
恢复
?
、
、
我已经知道
flink
将开始
从
使用者组的. https://ci.apache.org/projects/
flink
/
flink
-docs-stable/dev/connectors/kafka.htmlhttps://ci.apache.org/projects/
flink
/
flink
-docs-stable/dev/connectors&
浏览 6
提问于2019-11-04
得票数 2
回答已采纳
1
回答
Flink
savepoint与本地执行环境(如独立应用程序)
、
、
、
如何使用独立应用程序(本地执行环境或迷你集群)实现
flink
保存
点
。我在
flink
-config.yaml文件中配置了savepoint目录,但不确定如何在关闭应用程序之前获取
保存
点
,以及如何在重新启动应用程序后
恢复
?是否有任何方法或必须先使用
flink
群集
,然后再使用CLI。 感谢你的帮助。谢谢
浏览 0
提问于2020-08-18
得票数 0
1
回答
flink
群集
重新启动时自动
恢复
作业
、
我在一个独立的
flink
集群上运行
作业
,只有一个
作业
管理器,在一个docker容器中运行。每当集群崩溃并重新启动时,我必须再次手动提交
作业
才能启动。有没有办法让
flink
在
群集
重新运行后自动
恢复
作业
?
浏览 74
提问于2020-01-29
得票数 0
回答已采纳
2
回答
Apache
Flink
:当我重新启动应用程序时,它不能从检查点
恢复
、
我有一个
Flink
作业
,其中我正在读取文件夹中的文件,并将其转储到数据库中。每天都会有新文件进入该文件夹。我已经启用了检查点,以便如果由于任何原因
Flink
作业
停止并且我需要重新启动,
Flink
作业
不应该读取已经读取的文件。我在代码中添加了以下代码行,但当我重新启动
作业
时,
Flink
作业
再次读取所有文件。
浏览 44
提问于2019-01-23
得票数 5
1
回答
从
检查点
恢复
Apache
Flink
作业
、
、
我正在使用Apache
Flink
+ RabbitMQ堆栈。我知道有机会手动触发
保存
点
并从中
恢复
作业
,但问题是
Flink
在成功检查点后确认消息,如果您想要设置
保存
点
和
恢复
状态,您将丢失上次成功的
保存
点
和上次成功的检查点之间的所有数据。有没有办法
从
检查点
恢复
作业
?这将解决在不可重放数据源(如rabbitmq)的情况下丢失数据的问题。顺便说一句,如
浏览 20
提问于2016-09-13
得票数 3
回答已采纳
1
回答
基于
Kubernetes
的Apache部署-可用性和可伸缩性
、
、
我使用
Kubernetes
(Openshift)部署许多微服务。我希望使用同样的方法来部署我的一些
Flink
作业
。
Flink
作业
是关键的-有些
作业
是无状态的,它们处理每一个数据(准确地说是一次),有些
作业
是有状态的,可以在流中查找模式或对时间作出反应。没有
作业
能够容忍长时间的停机或频繁的关闭(因为编程错误,
Flink
退出的方式)。 我发现文档大多倾向于将k8s中的
Flink
作业
部署为Job Clu
浏览 0
提问于2020-02-13
得票数 3
1
回答
使用RestClusterClient在
Flink
群集
上运行已部署的
作业
、
、
我正在尝试使用Rest请求在
Flink
群集
上运行已部署的
作业
。"programArgsList" : ["test1", "test2"] } 根据我
从
代码中看到的无法使用此客户端运行已部署的
作业
。我说的对吗?
浏览 1
提问于2019-05-10
得票数 0
2
回答
在
kubernetes
上连续部署有状态apache
flink
应用程序
、
、
我想在
kubernetes
上运行一个apache (1.11.1)流应用程序。将文件系统状态后端
保存
到s3。
作业
增加chk,但它不使用检查点。
浏览 4
提问于2020-08-06
得票数 3
1
回答
重新运行后,闪烁状态为空(已重新初始化)
、
、
、
我正在尝试连接两个流,第一个是持久化在MapValueState中:RocksDB将数据
保存
在checkpoint文件夹中,但在新运行后,state为空。我在本地和
flink
集群中运行它,并在集群中取消提交,然后在本地重新运行 env.setStateBackend(new RocksDBStateBackend(..)
浏览 4
提问于2020-05-08
得票数 1
回答已采纳
点击加载更多
扫码
添加站长 进交流群
领取专属
10元无门槛券
手把手带您无忧上云
相关
资讯
Flink on PaaSTA:Yelp运行在Kubernetes上的新流处理平台
flink用例
基于 Flink 打造的伴鱼实时计算平台 Palink 的设计与实现
Flink Checkpoint 原理流程以及常见失败原因分析
Apache Spark 2.3 加入支持Native Kubernetes及新特性文档下载
热门
标签
更多标签
云服务器
ICP备案
腾讯会议
云直播
对象存储
活动推荐
运营活动
广告
关闭
领券