6月23日，养码场联合袋鼠云、3W举办了以数据智能实践为主题的线下技术沙龙。干货满满，场主吐血整理！
鱼羊 发自 凹非寺 量子位 | 公众号 QbitAI 阿里这波遭“背刺”了： 花了1亿美元收购的开源项目，创始团队离职出走，结果二次创业项目不到一年又卖出去了。 关键是，这个二次创业项目，跟当初卖给阿里那个，不能说毫不相关，只能说……高度相似吧…… 核心业务，都是做Apache Flink这个开源项目的商业化。 △卖给阿里的Ververica官网主页 △新公司Immerok官网主页 消息一出，阿里“冤大头”的说法不胫而走。 而这同一个项目卖两次的操作，也给吃瓜群众看得一愣一愣的： 没签竞业协议？
进入大数据时代，数据量呈爆炸式增长，传统批处理计算模式难以满足日益增长的实时性需求。数据实时化已经成为数字经济时代的必然趋势。实时计算作为一种能够持续处理数据流的技术，能够以毫秒级延迟提供计算结果，为实时分析、风控、推荐等应用场景提供强有力的支持。
随着互联网和移动互联网的发展，时下我们正处在一个大数据的时代。在数据金山的诱惑下，各个机构纷纷开始探索从数据中提取洞见并指导实践的可能。而在这个需求的刺激下，在过去数年，大数据开源生态圈得到了长足的发展——在数据的整个生命周期中，从收集到处理，一直到数据可视化和储存，各种开源技术框架林立。 以这些开源技术为基石，业内涌现出一系列令人敬佩的大数据架构实践，而《程序员》电子刊9月B大数据实战与技术专题则摘录了电商、金融、游戏等行业的大数据应用，并覆盖了当下热门的大数据开源技术实践与技术细节，如Hadoop、
我们可以通过交易数据接口以非常低的延迟获得全球各个比特币交易市场的每一笔比特币的成交价，成交额，交易时间。
随着互联网和移动互联网的发展，时下我们正处在一个大数据的时代。在数据金山的诱惑下，各个机构纷纷开始探索从数据中提取洞见并指导实践的可能。而在这个需求的刺激下，在过去数年，大数据开源生态圈得到了长足的发展——在数据的整个生命周期中，从收集到处理，一直到数据可视化和储存，各种开源技术框架林立。 以这些开源技术为基石，业内涌现出一系列令人敬佩的大数据架构实践，而《程序员》电子刊9月B大数据实战与技术专题则摘录了电商、金融、游戏等行业的大数据应用，并覆盖了当下热门的大数据开源技术实践与技术细节，如Hadoop、Sp
match-trade超高效的交易所撮合引擎，采用伦敦外汇交易所LMAX开源的Disruptor框架，用Hazelcast进行分布式内存存取，以及原子性操作。使用数据流的方式进行计算撮合序列，才用价格水平独立撮合逻辑，实现高效大数据撮合。
流计算 Oceanus 是大数据产品生态体系的实时化分析利器，是基于 Apache Flink 构建的具备一站开发、无缝连接、亚秒延时、低廉成本、安全稳定等特点的企业级实时大数据分析平台。流计算 Oceanus 以实现企业数据价值最大化为目标，加速企业实时化数字化的建设进程。
在上篇，我们一起学习了分布式计算中的 MapReduce 模式(分布式计算技术MapReduce 详细解读)，MapReduce 核心思想是，分治法，即将大任务拆分成多个小任务，然后每个小任务各自计算，最后合并各个小任务结果得到开始的那个大任务的结果。
1、Apache Flink 在滴滴的背景 2、Apache Flink 在滴滴的平台化 3、Apache Flink 在滴滴的生产实践 4、Stream SQL 5、展望规划
静态数据：为了支持决策分析而构建的数据仓库系统，其中存放的大量历史数据就是静态数据。
导读：两千多年以前，孔老夫子站在大河边，望着奔流而去的河水，不禁感叹：“逝者如斯夫，不舍昼夜。”老夫子是在叹惜着韶华白首，时光易逝！
今日，流式数据处理是大数据里的很重要一环。原因有不少，其中包括： 商业（竞争）极度渴望更快的数据，而转换成流计算则是一个好的方法来降低延迟。 海量的、无穷数据集在现在的商业环境里变的越来越常见，而用专门设计来处理这样数据的系统来应对这些数据则更为容易。 在数据到达时就对他们进行处理能够更加平均地把负载进行均衡，取得更好的一致性和更可预测的计算资源消耗。 尽管业务驱动带来了对流计算兴趣的猛增，但绝大部分现有的流计算系统相比于批处理还不够成熟，而后者已经产生了很多令人激动的、多产的应用。 作为从事海量大规模流计
编者注：本内容来自Jay Kreps所著的《我喜爱日志：事件数据、流计算处理和数据集成》一书的第三章。Jay Kreps是Confluent的联合创始人和CEO。在此之前，Jay是领英的主要架构师之一，专注于数据基础架构和数据驱动的产品。他是多个可扩展的数据系统空间的开源项目的作者之一，包括Voldemort、Azkaban、Kafka和Samza。 以下是原文： 到目前为止，我还仅仅只是描述了一些把数据从一个地方拷贝到其他地方的多种的方法。然而，在存储系统间挪动字节并不是故事的结尾。实际上我们发现，“日
作者：腾讯云流计算 Oceanus 团队 流计算 Oceanus 简介 流计算 Oceanus 是大数据产品生态体系的实时化分析利器，是基于 Apache Flink 构建的具备一站开发、无缝连接、亚秒延时、低廉成本、安全稳定等特点的企业级实时大数据分析平台。流计算 Oceanus 以实现企业数据价值最大化为目标，加速企业实时化数字化的建设进程。 本示例使用流计算 Oceanus 平台的 ETL 功能，将 PostgreSQL 数据取出，经过时间转换函数处理后存入 PostgreSQL 中。用户无需编写
在Spark框架当中，提起流计算，那么主要就是Spark Streaming组件来负责。在大数据的发展历程当中，流计算正在成为越来越受到重视的趋势，而Spark Streaming流计算也在基于实际需求不断调整。今天的大数据学习分享，我们就主要来讲讲Spark 实时流计算。
在大数据时代的初期，我们面临的数据主要是大容量的静态数据集，针对离线和大规模数据分析设计的Hadoop依靠HDFS和Mapreduce可以灵活、高效的处理这种数据形态。然而，随着大数据时代的演进，具有实时持续到达、到达次序独立且高度无序等特征的流式数据在当前商业环境中变得越来越常见，人们迫切的想对这种流式数据进行实时分析并进而转化成商业价值，于是推动了大数据技术的演进。
最近一直在研究股票（币币）交易所撮合引擎，从一个连撮合概念都不太清晰我逐步摸索渐渐的有了一些自己的理解和概念。所以打算写一个撮合引擎，希望集众人智慧做出一个不错的引擎。
流计算 Oceanus 两周年 腾讯云流计算 Oceanus 是大数据产品生态体系的实时化分析利器，是基于 Apache Flink 构建的企业级实时大数据分析平台，具备一站开发、无缝连接、亚秒延时、低廉成本、安全稳定等特点。腾讯内部的流计算 Oceanus平台每秒接入数据峰值达到数亿条，每天接入数据量高达到十万亿条，实时计算量超万亿次。腾讯云流计算 Oceanus从2020年初公测到现在已经对外稳定服务超过2年，产品一直在飞速发展，快速迭代，帮忙用户便捷对接丰富的云上数据源，实现海量数据的实时处理和分
当一个服务模块的输入和输出都是流的时候，我们称其为流服务。流服务的好处在于其可以直观地描述业务执行流程。
作者：腾讯云云函数团队产品经理April 导语|本文演示了如何捕获流计算 Oceanus (Flink) 集群状态变更，并通过事件总线（EventBridge）发送到企业微信或钉钉、飞书客户端。 背景介绍 监控与报警系统对于业务生产环境来说是不可或缺的，一旦有故障发生，需要有完善的监控告警链路，保证告警消息可以实时完成推送并进行处理。 腾讯云事件总线（EventBridge）[1] 简称 EB，是一款安全、稳定、高效的无服务器事件管理平台。事件中心的事件总线可以接收来自您自己的应用程序、软件即服务（Sa
导读：火灾已经爆发后才知道救火，交通已经阻塞后才知道疏通，羊毛已经被“羊毛党”薅光后才知道堵上漏洞，股价已经拉升后才知道后悔……为什么我们不能在这些事情发生之前，或者至少是刚刚发生的时候就提前收到预警和通知，并且及时采取应对措施呢？
AI 前线导读：2018 年接近尾声，AI 前线策划了“解读 2018”年终技术盘点系列文章，希望能够给读者清晰地梳理出重要技术领域在这一年来的发展和变化。本文是实时流计算 2018 年终盘点，作者对实时流计算技术的发展现状进行了深入剖析，并对当前大火的各个主流实时流计算框架做了全面、客观的对比，同时对未来流计算可能的发展方向进行预测和展望。
“产品使用攻略”、“上云技术实践” 有奖征集啦～ 图片案例名称案例简介使用流计算 Oceanus 和 ES 构建日志分析系统介绍从 mysql 数据库采集数据到流计算服务 Oceanus 进行分析，最后输出到 ElasticSearch 服务的实践。可作为日志搜索场景解决方案使用。使用 MySQL 关联 HBase 维表数据到 ClickHouse介绍结合 MySQL 数据库、流计算 Oceanus、HBase 以及云数据仓库 ClickHouse 来构建实时数仓，并通过流计算 Oceanus 读取 MyS
随着移动设备、物联网设备的持续增长，流式数据呈现了爆发式增长，同时，越来越多的业务场景对数据处理的实时性有了更高的要求，基于离线批量计算的数据处理平台已经无法满足海量数据的实时处理需求，在这个背景下，各种实时流处理平台应运而生。
Flink是下一代大数据计算平台，可处理流计算和批量计算。《Flink-1.9流计算开发：十四、union函数》cosmozhu写的本系列文章的第十四篇。通过简单的DEMO来演示union函数执行的效果 。
作者：腾讯云流计算 Oceanus 团队 流计算 Oceanus 简介 流计算 Oceanus 是大数据产品生态体系的实时化分析利器，是基于 Apache Flink 构建的具备一站开发、无缝连接、亚秒延时、低廉成本、安全稳定等特点的企业级实时大数据分析平台。流计算 Oceanus 以实现企业数据价值最大化为目标，加速企业实时化数字化的建设进程。 本文将为您详细介绍如何使用 Datagen Connector 模拟生成客户视频点击量数据，并利用滚动窗口函数对每分钟内客户的视频点击量进行聚合分析，最后将
本页面汇总了腾讯云流计算 Oceanus (Flink 实时计算) 产品的最佳实践和解决方案文档，将持续更新。
随着移动设备、物联网设备的持续增长。流式数据呈现了爆发式增长。同时，越来越多的业务场景对数据处理的实时性有了更高的要求。基于离线批量计算的数据处理平台已经无法满足海量数据的实时处理需求，在这个背景下，各种实时流处理平台应运而生。 运用好大数据可以让为消费者提供产品或服务的企业进行更精准的营销；比如我们大家都熟知的海尔，他们在推出某一款新型智能空调时，将广告投放到与会员大数据平台合作的旅游、健康类杂志上，不仅为杂志用户提供购买优惠的双赢模式，还通过用户订阅的杂志来判断用户的特点，从而进行更精准的营销。
10月22日晚19：00，腾讯云大数据“数智话”技术沙龙 第三期《流计算 Oceanus 基于Flink的实时大数据分析平台》直播圆满落幕。流计算 Oceanus 产品负责人，流计算 Oceanus 专家工程师 围绕腾讯云大数据的流计算产品——流计算Oceanus展开，重点介绍了其优势特性、技术演进和在实际场景中的应用实践。 让我们一起来回顾下当晚的直播内容吧！ 关注腾讯云大数据公众号 邀您探索数据的无限可能 点击“阅读原文”，了解相关产品最新动态 ↓↓↓
作者：腾讯云流计算 Oceanus 团队 流计算 Oceanus 简介 流计算 Oceanus 是大数据产品生态体系的实时化分析利器，是基于 Apache Flink 构建的具备一站开发、无缝连接、亚秒延时、低廉成本、安全稳定等特点的企业级实时大数据分析平台。流计算 Oceanus 以实现企业数据价值最大化为目标，加速企业实时化数字化的建设进程。 本文将为您详细介绍如何取 MySQL 数据，经过流计算 Oceanus 实时计算引擎分析，输出数据到日志（Logger Sink）当中。 前置准备 创建 流计算
“快”这个词是不明确的，专业属于点有两个层面： 1.时延 ， 指数据从产生到运算产生结果的时间，题主的“快”应该主要指这个。 2. 吞吐， 指系统单位时间处理的数据量。 首先明确一点，在消耗资源相同的情况下，一般来说storm的延时低于mapreduce。但是吞吐也低于mapreduce。 Storm的网络直传、内存计算，其时延必然比hadoop的通过hdfs传输低得多;当计算模型比较适合流式时，storm的流式处理，省去了批处理的收集数据的时间;因为storm是服务型的作业，也省去了作业调度的时延。所以从
一、流计算 Oceanus 限量秒杀专享活动 二、什么是ETL ETL（Extract，Transform，Load）描述了将数据从源端经过抽取、转换、加载至目的端的过程。 企业收集到的原始数据通常存在数据缺失、数据结构混乱等问题，难以直接用来分析或计算。通过补充缺失的数值、修正偏差的数值、拆分字段、转换类型以及使用用户自定义函数等方式，ETL 能够将数据加工为规整、可用的形式。使用腾讯云流计算 Oceanus 开发 ETL 作业时，用户只需选择数据源表和目的表，并根据业务逻辑完成字段映射的配置，即可
作者：腾讯云流计算 Oceanus 团队 流计算 Oceanus 简介 流计算 Oceanus 是大数据产品生态体系的实时化分析利器，是基于 Apache Flink 构建的具备一站开发、无缝连接、亚秒延时、低廉成本、安全稳定等特点的企业级实时大数据分析平台。流计算 Oceanus 以实现企业数据价值最大化为目标，加速企业实时化数字化的建设进程。 本文将为您详细介绍如何使用 MySQL 接入数据，经过流计算 Oceanus 对数据进行处理分析（示例中采用小写转换函数对name字段进行了小写转换），最终将处
11月22日晚19：00，腾讯云大数据“数智话”技术沙龙 第三期《流计算 Oceanus 基于Flink的实时大数据分析平台》准时开启线上直播。本次直播由腾讯云大数据 流计算 Oceanus 产品负责人，流计算 Oceanus 专家工程师 围绕腾讯云大数据的流计算产品——流计算Oceanus展开，重点介绍了其优势特性、技术演进和在实际场景中的应用实践。 企业面对实时性要求比较高的场景时，传统批处理无法满足时效性的要求，延迟太高，性能不足，稳定性比较差，对业务造成巨大的影响。如何解决资源利用率低、性能不足等问
作者：腾讯云流计算 Oceanus 团队 流计算 Oceanus 简介 流计算 Oceanus 是大数据产品生态体系的实时化分析利器，是基于 Apache Flink 构建的具备一站开发、无缝连接、亚秒延时、低廉成本、安全稳定等特点的企业级实时大数据分析平台。流计算 Oceanus 以实现企业数据价值最大化为目标，加速企业实时化数字化的建设进程。 本文将为您详细介绍如何使用 datagen 连接器生成随机数据，经过流计算 Oceanus，最终将计算数据存入 Elasticsearch 。 前置准备 创建
链接：https://www.zhihu.com/question/403840013/answer/1317631316
实时流计算服务（Cloud Stream Service，简称CS），是运行在公有云上的实时流式大数据分析服务，全托管的方式用户无需感知计算集群，只需聚焦于Stream SQL业务，即时执行作业，完全兼容Apache Flink（1.5.3版本）API和Apache Spark（2.2.1版本）API。
状态管理是流计算系统的核心问题之一。在实现流数据的关联操作时，流计算系统需要先将窗口内的数据临时保存起来，然后在窗口结束时，再对窗口内的数据做关联计算。在实现时间维度聚合特征计算和关联图谱特征计算时，更是需要创建大量的寄存用于记录聚合的结果。而CEP的实现，本身就与常说的有限状态机（Finite-state machine，FSM）是密切相关的。不管是为了关联计算而临时保存的数据，还是为了保存聚合计算的数据，抑或是CEP里的有限状态机，这些数据都是流计算应用开始运行之后才创建和积累起来。如果没有做持久化操作，这些数据在流计算应用重启后会被完全清空。正因为如此，我们将这些数据称之为流计算应用的“状态”。从各种开源流计算框架的发展历史来看，大家对实时流计算中的“状态”问题也是一点点逐步弄清楚的。
目前有三类常见的流计算框架和平台：商业级的流计算平台、开源流计算框架、公司为支持自身业务开发的流计算框架
作者：腾讯云流计算 Oceanus 团队 流计算 Oceanus 简介 流计算 Oceanus 是大数据产品生态体系的实时化分析利器，是基于 Apache Flink 构建的具备一站开发、无缝连接、亚秒延时、低廉成本、安全稳定等特点的企业级实时大数据分析平台。流计算 Oceanus 以实现企业数据价值最大化为目标，加速企业实时化数字化的建设进程。 流计算 Oceanus 提供了便捷的控制台环境，方便用户编写 SQL 分析语句、ETL 作业或者上传运行自定义 JAR 包，支持作业运维管理。 本文将为您详细
Flink是下一代大数据计算平台，可处理流计算和批量计算。《Flink-1.9流计算开发：六、reduce函数》是cosmozhu写的本系列文章的第六篇。通过简单的DEMO来演示reduce函数执行的效果 。
Flink是使用Kafka链接计算任务,利用kafka的exactly once实现流计算的不重不丢,而Kafka 的 Exactly Once 语义是通过它的事务和生产幂等两个特性来共同实现的
作者：腾讯云流计算 Oceanus 团队 流计算 Oceanus 简介 流计算 Oceanus 是大数据产品生态体系的实时化分析利器，是基于 Apache Flink 构建的具备一站开发、无缝连接、亚秒延时、低廉成本、安全稳定等特点的企业级实时大数据分析平台。流计算 Oceanus 以实现企业数据价值最大化为目标，加速企业实时化数字化的建设进程。 本文将为您详细介绍如何实时获取 CKafka 中的 JSON 格式数据，经过数据抽取、平铺转换后存入 MySQL 中。 前置准备 创建流计算 Oceanus
作者：腾讯云流计算 Oceanus 团队 流计算 Oceanus 简介 流计算 Oceanus 是大数据产品生态体系的实时化分析利器，是基于 Apache Flink 构建的具备一站开发、无缝连接、亚秒延时、低廉成本、安全稳定等特点的企业级实时大数据分析平台。流计算 Oceanus 以实现企业数据价值最大化为目标，加速企业实时化数字化的建设进程。 本文将您详细介绍如何将数据写入 MongoDB。 前置准备 创建流计算 Oceanus 集群 进入 Oceanus 控制台 [1]，点击左侧【集群管理】，点击
流计算 Oceanus 的云 API 已经启用 CAM 服务级鉴权。默认情况下，所有主账号（也成为主用户）均有 QcloudOceanusFullAccess 策略，可以不用任何设置，正常使用流计算服务。
在流式计算越来越受到主流青睐的市场状况下，流式计算框架技术的掌握，正在成为大数据学习当中的重要部分。以Flink框架来说，作为新一代的流计算框架，越来越多地出现在大数据开发者们的技能树当中。今天的大数据入门分享，我们就来讲讲FLink的几个核心概念。
streaming system有两篇经典博客：streaming 101和streaming 102，深刻的描述了流系统的精髓和对未来的展望，这篇文章权当一个导读的作用。
内容来源：2018 年 6 月 23 日，阿里巴巴云计算平台事业部产品经理郭华在“数据智能实践技术沙龙”进行《基于流计算构建实时大数据处理系统》演讲分享。IT 大咖说（微信id：itdakashuo）作为独家视频合作方，经主办方和讲者审阅授权发布。
领取专属 10元无门槛券
手把手带您无忧上云
云服务器
ICP备案
对象存储
实时音视频
即时通信 IM
