首页
学习
活动
专区
工具
TVP
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往

数据仓库到大数据平台再到数据

,知识图谱;技术层面的有数据仓库数据集市、大数据平台、数据湖、数据、业务、技术等等,总之是你方唱罢他登场,各种概念满天飞… 在比拼新经济的过程,其实比拼的是流量也就是用户,但流量不等于用户...回到正文,不管怎么说,数据这个概念已逐步火了起来,但数据是什么? 1、数据是聚合和治理跨域数据,将数据抽象封装成服务,提供给前台以业务价值的逻辑概念。...以上概念是从互联网上搜索并拷贝出来的,总的来说中也好,数据也好,还缺乏一个标准的定义,仅从字面上理解,数据是解决如何用好数据的问题,既然是概念,数据也被赋予了很多扩大的外延,也上升到了数据的采集...因此对数据仓库和大数据平台的优缺点、各自存在的问题、疑惑、发展方向,也算有一定的认知,包括对新生的数据的发展方向,结合自己过往的经验,谈谈自己的一些想法。...我想这才是数据的初衷。 后文是对数据仓库、大数据平台、数据的一些总结性的架构材料,也是对自己这些年来的一些汇总和思考吧,看懂了前面的文字,后面的各种架构图也就无需赘述了。

53920

数据仓库数据湖、数据一文读懂【2】

;没有数据模型,后面的一切操作也就无从谈起,这也是很多高速成长的企业觉得数据仓库/数据无法落地、无法满足需求的重要原因之一。...数据的处理架构发生了变化 传统的数据仓库集成处理架构是ETL结构,这是构建数据仓库的重要一环,即用户从数据源抽取出所需的数据,经过数据清洗,将数据加载到数据仓库中去。...5.2.2 数据 数据概念,不同于数据平台。...5.6 数据带来价值 数据对一个企业的数字化转型和可持续发展起着至关重要的作用。数据为解耦而生,企业建设数据的最大意义就是应用与数据解藕。...5.7 传统数据仓库数据的差异点 图片 图片 作为工业企业,一般采用混搭架构: 图片 6.1 数据仓库vs.数据集市 数据集市和数据仓库经常会被混淆,但两者的用途明显不同。

1.1K30
  • 您找到你想要的搜索结果了吗?
    是的
    没有找到

    数据仓库数据湖、数据一文读懂【1】

    随着大数据技术的不断更新和迭代,数据管理工具得到了飞速的发展,相关概念如雨后春笋一般应运而生,如从最初决策支持系统(DSS)到商业智能(BI)、数据仓库数据湖、数据等,这些概念特别容易混淆,本文对这些名词术语及内涵进行系统的解析...我们来看看他是怎么定义的:数据仓库是一个面向主题的、集成的、相对稳定的、反映历史变化的数据集合,用于支持管理的决策制定。...,而且存放在数据仓库数据一般不再修改。...集成性 集成性是指数据仓库会将不同源数据数据汇总到一起; 具体来说,是指数据仓库的信息不是从各个业务系统简单抽取出来的,而是经过一系列加工、整理和汇总的过程,因此数据仓库的信息是关于整个企业的一致的全局信息...2.5.7 数据仓库部署 顾名思义,这一步就是部署数据库系统的软硬件环境。数据库部署往往还包含将初始数据填入数据的意思。对于云数据仓库,这一步就叫"数据上云"。

    75430

    关于数据仓库数据湖、数据平台和数据的概念和区别

    我们谈论数据之前,我们也听到过数据平台、数据仓库数据湖的相关概念,它们都与数据有关系,但他们和数据有什么样的区别,下面我们将分别介绍数据平台数据仓库数据湖和数据。...数据 网易数据台架构图 阿里数据逻辑架构图 数据通过对企业内外部多源异构的数据采集、治理、建模、分析和应用,使数据对内优化管理提高业务价值,对外进行数据合作让业务价值得到释放,使之成为企业数据资产管理中枢...数据仓库 VS 数据 数据仓库和传统的数据平台,其出发点为一个支撑性的技术系统,即一定要先考虑我具有什么数据,然后我才能干什么,因此特别强调数据质量和元数据管理;而数据的第一出发点不是数据而是业务...总结 根据以上数据平台、数据仓库数据湖和数据的概念论述和对比,我们进行如下总结: 数据数据仓库数据湖没有直接的关系; 数据数据平台、数据仓库数据湖在某个维度上为业务产生价值的形式有不同的侧重...; 数据仓库是为了支持管理决策分析,而数据则是将数据服务化之后提供给业务系统,不仅限于分析型场景,也适用于交易型场景; 数据可以建立在数据仓库数据平台之上,是加速企业从数据到业务价值的过程的中间层

    1.1K30

    数据仓库数据湖、数据终于有人说清楚了,建议收藏!

    数据 3.1 产生的背景 企业在过去信息化的历程形成了大量生产经营及专业业务应用成果,同时也累积了大量的企业数据资产。限于传统的数据仓库技术手段,数据管理和分析能力成为信息化工作的短板。...战略并不是搭建一个数据平台,但是的大部分服务都是围绕数据而生,数据是围绕向上层应用提供数据服务构建的,战略让数据数据平台和业务系统之间形成了一个良性的闭环,也就是实现应用与数据之间解藕...3.4 数据带来价值 数据对一个企业的数字化转型和可持续发展起着至关重要的作用。数据为解耦而生,企业建设数据的最大意义就是应用与数据解藕。...四 传统数据仓库数据的差异点 ? 图11.数据与传统数据仓库比较 ? 表2.技术路线对比表 作为工业企业,一般采用混搭架构 ?...表3.技术路线选型比较表 结论 本文对数据仓库数据湖、数据等内涵作了详细说明,便于读者更好的理解和掌握数据领域相关概念。

    25.4K810

    数据:什么是数据

    数据:什么是数据 什么是数据 数据是全新的架构变革。过去三十年,企业数据管理都以传统的IT架构为基础。...由此,集成式的建设方式给技术部门形成巨大的维护成本和治理成本,并没有达到数据建设的真正目的。 数据的基本能力 数据具有数据服务的能力。...传统企业搭建数据,如果仅完成了API接口的创建,仅仅是完成了数据建设的其中一环。因此,数据并不是端到端的技术赋能平台。...由此,集成式的建设方式给技术部门形成巨大的维护成本和治理成本,并没有达到数据建设的真正目的。 数据的基本能力 数据具有数据服务的能力。...数据的建立可以帮助企业对数据进行风险隔离,确保一方不影响另一方。 数据应用方式 数据应用方式一为帮助业务部门灵活使用数据分析。数据改变了以往业务部门数据分析技术能力不足的窘况。

    3.3K10

    OPPO数据之基石:基于Flink SQL构建实时数据仓库

    在运营这些互联网应用的过程,OPPO 积累了大量的数据,上图右边是整体数据规模的演进:从 2012 年开始每年都是 2~3 倍的增长速度,截至目前总数据量已经超过 100PB,日增数据量超过 200TB...要支撑这么大的一个数据量,OPPO 研发出一整套的数据系统与服务,并逐渐形成了自己的数据体系。 1.2.OPPO 数据 ? 今年大家都在谈数据,OPPO 是如何理解数据的呢?...我们把它分成了 4 个层次: 最下层是统一工具体系,涵盖了"接入 - 治理 - 开发 - 消费"全数据链路; 基于工具体系之上构建了数据仓库,划分成"原始层 - 明细层 - 汇总层 - 应用层",这也是经典的数仓架构...以上就是 OPPO 数据的整个体系,而数据仓库在其中处于非常基础与核心的位置。 1.3. 构建 OPPO 离线数仓 ? 过往 2、3 年,我们的重点聚焦在离线数仓的构建。...对于元数据管理,核心的问题是如何将外部创建的库表注入 Flink,使得 SQL 可以识别到。

    3.4K21

    数据,什么是数据

    数据数据仓库数据平台的关键区别 这是现在数据行业大家经常讨论的问题,到底数据仓库数据平台和数据的区别是什么。...概括地说,三者的关键区别有以下几方面: 数据是企业级的逻辑概念,体现企业 D2V(Data to Value)的能力,为业务提供服务的主要方式是数据 API; 数据仓库是一个相对具体的功能概念...数据距离业务更近,为业务提供速度更快的服务; 数据仓库是为了支持管理决策分析,而数据则是将数据服务化之后提供给业务系统,不仅限于分析型场景,也适用于交易型场景; 数据可以建立在数据仓库数据平台之上...而数据是在数据仓库数据平台的基础上,将数据生产为为一个个数据 API 服务,以更高效的方式提供给业务。 数据应该具备什么能力?...但就当前的情况来看,广义的数据在未来一段时间内仍会涵盖数据仓库数据湖等存储组件,“数据工厂”这个概念可能更适用于现在的阶段。但随着数据的发展,未来很有可能不再需要数据湖了。

    1.7K31

    一文总结BI、数据仓库数据湖和数据内涵与差异

    BI)、数据仓库数据湖、数据等,这些概念特别容易混淆,本文对这些名词术语及内涵进行系统的解析,便于读者对数据平台相关的概念有全面的认识。...战略并不是搭建一个数据平台,但是的大部分服务都是围绕数据而生,数据是围绕向上层应用提供数据服务构建的,战略让数据数据平台和业务系统之间形成了一个良性的闭环,也就是实现应用与数据之间解藕...3.4 数据带来价值 数据对一个企业的数字化转型和可持续发展起着至关重要的作用。数据为解耦而生,企业建设数据的最大意义就是应用与数据解藕。...四 传统数据仓库数据的差异点 ? 图11.数据与传统数据仓库比较 ? 表2.技术路线对比表 作为工业企业,一般采用混搭架构 ?...表3.技术路线选型比较表 结论 本文对数据仓库数据湖、数据等内涵作了详细说明,便于读者更好的理解和掌握数据领域相关概念。

    1K20

    辨析BI、数据仓库数据湖和数据内涵及差异点(建议收藏)

    数据 3.1 产生的背景 企业在过去信息化的历程形成了大量生产经营及专业业务应用成果,同时也累积了大量的企业数据资产。限于传统的数据仓库技术手段,数据管理和分析能力成为信息化工作的短板。...战略并不是搭建一个数据平台,但是的大部分服务都是围绕数据而生,数据是围绕向上层应用提供数据服务构建的,战略让数据数据平台和业务系统之间形成了一个良性的闭环,也就是实现应用与数据之间解藕...3.4 数据带来价值 数据对一个企业的数字化转型和可持续发展起着至关重要的作用。数据为解耦而生,企业建设数据的最大意义就是应用与数据解藕。...四 传统数据仓库数据的差异点 ? 图11.数据与传统数据仓库比较 ? 表2.技术路线对比表 作为工业企业,一般采用混搭架构 ?...表3.技术路线选型比较表 结论 本文对数据仓库数据湖、数据等内涵作了详细说明,便于读者更好的理解和掌握数据领域相关概念。

    2.3K31

    数据技术的进化史:从数据仓库数据再到数据飞轮

    数据技术的演进路径从数据仓库数据:需求驱动:随着数据量的激增和业务需求的多样化,传统数据仓库难以满足实时性和灵活性的需求。...机制不同:数据侧重于数据的管理和整合,数据飞轮则强调数据的自我驱动和闭环反馈。个人见解与故事作为一名数据技术的从业者,我见证了从数据仓库数据再到数据飞轮的技术演进。...在早期,我们通过数据仓库解决了数据集成和报表生成的问题,但随着业务需求的复杂化,数据的出现让我们能够更好地支持实时数据和多样化分析。...无论是数据仓库的集成性,数据的服务化,还是数据飞轮的自我驱动,每一步都是对数据价值挖掘的深化。结论数据技术的演进是一个不断追求效率和价值的历程。...从数据仓库数据再到数据飞轮,每一步都是对前一步的继承和升华。理解这些技术的本质和演进路径,有助于我们更好地应用它们,推动业务的持续发展。

    15220

    数据是什么:数据剖析

    数据被誉为大数据的下一站,成为了人们谈论的焦点,2019年也被称为数据元年。但是数据是什么?它和数据仓库、商业智能、大数据平台有什么区别?它的主要功能是什么?...[mn5h0ycu0o.jpg] 再来看跟数据相关的商业智能、数据仓库两个概念。 在过去,数据仓库、商业智能都是非常火热的概念,尤其是数据仓库。...而在今年数据仓库有了下滑的趋势,数据却到达了顶峰。 现在数据已经超越了数据仓库加商业智能两者的热度总和,这说明现在行业里面,特别是甲方的企业需求端,对于数据越来越关注。...数据数据仓库数据平台与商业智能的区别 我在2008年起就负责过一些SAP BW/Cognos/Microstrategy类数据仓库的项目,对传统的主数据管理,数据治理很熟悉基于这些经验,总结了数据仓库...数据是个概念,而数据仓库是一种具体的技术领域,它也已经有对应的标准化的产品。商业智能一方面也是一个概念,另一方面它也有对应的产品。 传统的商业智能和数据仓库,是以分析报表为核心。

    3.8K52

    数据

    数据模型是分层次的,以前叫作数据仓库模型,概括为三层,基础模型一般是关系建模,主要实现数据的标准化,我们叫作“书同文、车同轨”,融合模型一般是维度建模,主要实现跨越数据的整合,整合的形式可以是汇总、关联...,也包括解析,挖掘模型其实是偏应用的,但如果用的人多了,你也可以把挖掘模型作为企业的知识沉淀到,比如离网挽留的模型具有很大的共性,就应该有人把它规整到模型,以便开放给其它人使用,是相对的...数据服务将数据模型按照应用要求做了服务封装,就构成了数据服务,这个跟业务台中的服务概念是完全相同的,只是数据封装比一般的功能封装要难一点,毕竟OLTP功能的变化有限,而数据分析受市场因素的影响很大,变化更快...随着企业大数据运营的深入,各类大数据应用层出不穷,对于数据服务的需求非常迫切,大数据如果不服务化,就无法规模化,比如浙江移动封装了客户洞察、位置洞察、营销管理、终端洞察、金融征信等各种服务共计几百个,每月调用量超过亿次...但有数据模型和数据服务还是远远不够的,因为再好的现成数据和服务也往往无法满足前端个性化的要求,这时候就得授人以鱼不如授人以渔了,数据的最后一层就是数据开发,其按照开发难度也分为三个层次,最简单的是提供标签库

    3K42

    数据建设(二):数据简单介绍

    是一种经营理念,是一种组织形式,是“平台思维”的自然演进。 又包含业务、技术数据。...三、数据与业务区别和联系 一个企业可以同时拥有业务数据,两者是相辅相成的。...如果把数据看成一个工厂,大数据平台就是工厂的设备,为工厂运行提供加工处理数据能力,通过一系列的整合、加工、处理最终为客户提供有价值的数据结果和服务,当然,属于大数据平台的数据仓库也当属数据的重要组成部分...数据仓库的主要场景实支持管理决策和业务分析,而数据则是将数据服务化之后提供给业务系统,目标是将数据能力渗透到各个业务环节,不限于决策分析类场景。...5.4、支持跨主题域访问数据 企业早期建设的应用数据层ADS(传统数据仓库分为ODS/DW/ADS)更多是为了某个主题域所服务,例如:营销域、人力资源域、风控域。

    4.9K63

    4万字长文全面解读数据数据仓库数据

    数据的处理架构发生了变化 传统的数据仓库集成处理架构是ETL结构,这是构建数据仓库的重要一环,即用户从数据源抽取出所需的数据,经过数据清洗,将数据加载到数据仓库中去。...5.2.2 数据 数据概念,不同于数据平台。...5.4.2 公司平台分层 5.4.2.1 概述 阿里组织架构,业务数据、技术公共组成。: 前台 由各类前台系统组成的前端平台。...5.6 数据带来价值 数据对一个企业的数字化转型和可持续发展起着至关重要的作用。数据为解耦而生,企业建设数据的最大意义就是应用与数据解藕。...5.7 传统数据仓库数据的差异点 作为工业企业,一般采用混搭架构: 6.1 数据仓库vs.数据集市 数据集市和数据仓库经常会被混淆,但两者的用途明显不同。

    1.2K21

    万字详解数据仓库数据湖、数据和湖仓一体

    本文目录: 一、前言 二、概念解析 数据仓库 数据数据 三、具体区别 数据仓库 VS 数据数据仓库 VS 数据 总结 四、湖仓一体 目前数据存储方案 Data Lakehouse(湖仓一体...) 一、前言 数字化转型浪潮卷起各种新老概念满天飞,数据湖、数据仓库数据台轮番在朋友圈刷屏,有人说“数据算个啥,数据湖才是趋势”,有人说“再见了数据湖、数据仓库数据已成气候”…… 企业还没推开数字化大门...数据仓库 VS 数据 数据仓库和传统的数据平台,其出发点为一个支撑性的技术系统,即一定要先考虑我具有什么数据,然后我才能干什么,因此特别强调数据质量和元数据管理;而数据的第一出发点不是数据而是业务...总结 根据以上数据仓库数据湖和数据的概念论述和对比,我们进行如下总结: 数据数据仓库数据湖没有直接的关系; 数据数据仓库数据湖在某个维度上为业务产生价值的形式有不同的侧重; 数据是企业级的逻辑概念...,能够更快速的响应业务和应用开发需求,从而为业务提供速度更快的服务; 数据仓库是为了支持管理决策分析,而数据则是将数据服务化之后提供给业务系统,不仅限于分析型场景,也适用于交易型场景; 数据可以建立在数据仓库数据平台之上

    1.6K20

    数据建设(一):数据出现的背景

    ​ 一、数据建设中出现的问题 在企业数据建设过程,都离不开大数据平台建设,大数据平台建设涉及数据采集、数据存储、数据仓库构建、数据处理分析、数据挖掘机数据可视化等等一系列流程。...数据的发现效率低下 随着数据量和业务越来越多,由于没有对数据进行很好的管理,各个数据仓库数据表越来越多,对于数据开发人员、数据分析人员、运营人员根本不清楚我们拥有哪些数据,这样就很难对数据进行管理复用...2、数据质量问题 由于构建了很多数据仓库,没有有效的对数据进行很好的质量管理以及数据开发过程存在bug问题,导致数据经常算错,结果违反常识,开发人员浪费大量精力定位数据质量问题,经常没有办法按时产出报表数据...二、为什么要构建数据 以上我们分析了数据建设中出现的各种问题,那么为什么出现这些问题呢?...解决以上三个方面问题关键就是需要一套机制,通过这套机制整合企业数据,规范、快速的形成数据服务能力,为企业经营决策、精细化运营提供支撑,这套机制就是数据。 三、思维导图总结 ​ ​

    1.4K51

    数据建设(一):数据出现的背景

    数据出现的背景一、数据建设中出现的问题在企业数据建设过程,都离不开大数据平台建设,大数据平台建设涉及数据采集、数据存储、数据仓库构建、数据处理分析、数据挖掘机数据可视化等等一系列流程。...数据的发现效率低下随着数据量和业务越来越多,由于没有对数据进行很好的管理,各个数据仓库数据表越来越多,对于数据开发人员、数据分析人员、运营人员根本不清楚我们拥有哪些数据,这样就很难对数据进行管理复用...2、数据质量问题由于构建了很多数据仓库,没有有效的对数据进行很好的质量管理以及数据开发过程存在bug问题,导致数据经常算错,结果违反常识,开发人员浪费大量精力定位数据质量问题,经常没有办法按时产出报表数据...二、为什么要构建数据以上我们分析了数据建设中出现的各种问题,那么为什么出现这些问题呢?...解决以上三个方面问题关键就是需要一套机制,通过这套机制整合企业数据,规范、快速的形成数据服务能力,为企业经营决策、精细化运营提供支撑,这套机制就是数据。三、思维导图总结图片

    1.6K93

    数据建设(四):企业构建数据评估

    ,到底要不要构建数据?...,正是沿着这个思路很多企业构建了企业级的数据仓库,并同时开始了BI工具、大屏可视化等系统的建设,这些可以将大量复杂的原始数据抽象为指标,以可视化的方式呈现在决策者面前,为决策提供决策支持。...该阶段主要是企业在业务系统建设的基础上,基于业务目标有意识地进行数据收集、管理、分析,通过企业级数据仓库建设,为企业业务提供决策支持。关于此阶段的主要特征可以参照上图。...六、不同行业数据需求 数据的构建并没有行业限制,任何行业都可以构建数据,只是不同行业、不同阶段的企业所需要的数据应用能力不同,对数据的依赖度也不同。...数据建设是一个持续完善的过程,任何企业构建数据不是一下完成,下面是一些行业所处的阶段以及对数据的共性需求。

    2.7K71

    什么是数据?全面解读数据

    数据是什么 数据是指通过数据技术,对海量数据进行采集、计算、存储、加工,同时统一标准和口径。数据数据统一之后,会形成标准数据,再进行存储,形成大数据资产层,进而为客户提供高效服务。...它是企业业务和数据的沉淀,其不仅能降低重复建设,减少烟囱式协作的成本,也是差异化竞争优势所在。 建立数据的原因 数据和业务相比,面临的情况可能会更加复杂一点。...曾经企业的数据抽取就有多份,报表一份,数据仓库一份,地市集市一份,无论是抽取压力、维护难度及数据一致性要求都很高。...03 数据是培育业务创新的土壤 企业的数据创新一定要站在巨人的肩膀上,即从数据开始,不能总是从基础做起,数据数据创新效率的保障。...研究过机器学习的都知道,没有好的规整数据数据准备的过程极其冗长,这也是数据仓库模型的一个核心价值所在,比如运营商要获取3个月的ARPU数据,如果没有融合模型的支撑,得自己从账单一层层汇总及关联,速度可想而知

    2.2K21
    领券