Loading [MathJax]/jax/output/CommonHTML/config.js
首页
学习
活动
专区
圈层
工具
发布
首页
学习
活动
专区
圈层
工具
MCP广场
社区首页 >专栏 >为什么说ETL数据集成无法满足企业当下的业务需求呢?

为什么说ETL数据集成无法满足企业当下的业务需求呢?

原创
作者头像
知行软件EDI
修改于 2021-09-16 10:22:18
修改于 2021-09-16 10:22:18
7750
举报

长期以来,IT团队一直依赖企业数据仓库作为其业务工作流程的中央数据基础设施。所有的东西都是通过这个仓库运行的,ETL数据集成的可靠工具,从源应用程序和系统中提取数据,将其加载到目标仓库中,并将其转换为可访问的形式。

但仅有ETL工具是不够的。随着企业使用更多的数据系统,意味着需要更大的数据量和可访问性,IT团队需要处理ETL无法提供的复杂数据转换以及更多的复杂需求。针对上文提到的需求,我们需要考虑以下场景:

  • 复杂的业务逻辑和验证
  • B2B系统集成
  • 实时集成

本文讨论了为什么ETL工具可能不足以满足这些业务需求,以及iPaaS集成解决方案如何解决这些复杂的需求。

1.复杂的业务逻辑和应用集成

在某些情况下,当您将数据从一个应用程序移动到另一个应用程序时,可能无法在源系统和目标系统之间执行简单的 1:1 数据集成。数据可能有多个来源或目的地,需要业务逻辑根据预先确定的变量来确定将数据发送到何处以及如何处理数据。

例如,让我们看一个典型的电子商务交易。当客户下订单时,系统可以触发在库存数据库中的查找操作,以检查物品是否存在,将商品标记为已售,将销售价添加到会计系统,并将发货订单发送到物流系统。这个过程涉及到您的业务逻辑。如果该商品在仓库中,并且是可提供的,您可以发送发货通知并触发订单发货的工作流程。如果物品不在仓库中,则可能需要不同的工作流程来指导您的 ERP 系统重新进货,然后开始发货。

您可能还需要业务逻辑来验证数据。例如,一个工作流程可以确定一个订单是否包含您不再提供的物品。或者您可能想要调用 USPS 地址验证服务以确保收货地址正确。

一个简单移动数据的ETL解决方案将无法提供必要的业务逻辑来创建这些复杂的工作流或执行必要的数据验证。

2.B2B 系统集成

你的交易伙伴每天都会产生大量的数据,这些数据都存储在他们自己的数据库、ERP、CRM或者其他业务管理系统中。为了利用这些数据,你需要将这些外部应用程序和数据库连接到你自己的数据仓库和应用程序。这个过程不仅涉及数据转换,还涉及企业网络之间的安全数据移动。

以一家全球领先的轮胎制造商——米其林为例。他们在很大程度上依赖于一个物流合作伙伴的车队,将他们的轮胎分销到世界各地并连接他们的供应链。为了集中和利用隐藏在他们合作伙伴的个人数据存储和应用程序中的数据,米其林需要将这些数据导入他们的中央PostgreSQL数据库。他们还需要安全、大量的企业文件传输和高度复杂的数据映射,以便将来自众多系统的数据转化为PostgreSQL系统的通用数据模型。

3.实时集成

在某些情况下,数据可能是时间敏感的。例如,假设一家酒店需要在客户预订后立即更新其预订数据库,以避免重复预订房间的风险。酒店不能容忍预订房间和更新系统之间的时间滞后。

大多数 ETL 工具使用预定或者轮询的方式来移动数据。在指定的时间间隔内,ETL 解决方案会询问源应用程序是否有任何更改,如果有,则将更新的数据推送到目标数据库。

如果过于频繁地拉取数据,则会造成不必要地资源消耗。但如果您的提取频率过低,则可能会导致数据不准确。

相反,您需要一个由特定事件触发的工作流。包含 webhooks 的应用程序集成解决方案可以不断监听源系统中的变化。当收到需要特定数据集的请求时,webhooks 会立即集成必要的数据,以消除轮询间隔并实时提供数据。

iPaaS 解决方案

虽然 ETL 无法解决上述场景,但集成平台即服务 (iPaaS) 解决方案可以满足您和您的企业当下的数据需求。

知行之桥是一种轻量级、轻代码的iPaaS 应用程序,可让您执行复杂的实时集成并填补 ETL 功能的空白。

知行之桥提供了一个直观的拖放式工作流界面,让您无需编码即可快速构建应用程序集成流程。它可以在一个地方支持所有复杂的集成,具有 B2B 系统集成、高级业务逻辑、数据验证和通过 Webhook 实时集成的功能。

它还简化了工作流管理,为您提供一个集中的位置来协调您的集成,包括:

  • 过程监控
  • 便于审计的日志
  • 安全和加密
  • 用户管理
  • 拖放数据映射用于 XML 驱动的数据转换
  • 用于高级映射和集成的内置脚本引擎
  • 用于远程管理的开发人员友好的管理 API

知行之桥可在本地、云端以及 AWS 和 Azure 上使用。了解更多信息,欢迎交流~

注:文案部分图片及内容来源于网络,版权归原创作者所有,如有侵犯到您的权益,请您联系我们进行删除,给您带来困扰,我们深感抱歉。

原创声明:本文系作者授权腾讯云开发者社区发表,未经许可,不得转载。

如有侵权,请联系 cloudcommunity@tencent.com 删除。

原创声明:本文系作者授权腾讯云开发者社区发表,未经许可,不得转载。

如有侵权,请联系 cloudcommunity@tencent.com 删除。

评论
登录后参与评论
暂无评论
推荐阅读
编辑精选文章
换一批
集成架构规划-如何更好的理解应用集成和数据集成之间的关系
今天我准备再结合一张图,来讲一下整个企业内部的IT应用架构和集成架构下面的集成关系,方便大家可以更好的去理解企业内部的集成架构,和各种集成方式的选择。
人月聊IT
2025/06/24
720
集成架构规划-如何更好的理解应用集成和数据集成之间的关系
什么是数据集成平台?数据集成平台有哪些功能?
如今,企业每天的数据量真是大得惊人,而且这些数据来源五花八门,来自不同系统、不同格式的数据都散落在各处。想把它们互通和整合起来,那可真是费老大劲了!这时候,数据集成平台的作用就明明白白地显示出来了。简单来说,数据集成平台就是一种专门用来收集、整合和管理来自不同源头的数据的工具。
帆软BI
2025/07/02
970
什么是数据集成平台?数据集成平台有哪些功能?
BMW &汽车行业E公司 EDI项目案例
宝马集团是全世界成功的汽车和摩托车制造商之一,旗下拥有BMW、MINI和Rolls-Royce三大品牌;同时提供汽车金融和高档出行服务。作为一家全球性公司,宝马集团在14个国家拥有31家生产和组装厂,销售网络遍及140多个国家和地区。
知行软件EDI
2022/04/27
7230
BMW &汽车行业E公司 EDI项目案例
零售行业R公司对接亚马逊Amazon Device EDI项目案例
为了满足平台货物的多样性,亚马逊Amazon邀请了来自全球各地的优秀供应商加入其供应链体系。要管理如此庞大的供应商群体,需要完成大量的数据处理工作,位列世界500强的Amazon是如何传输这些数据的呢?
知行软件EDI
2022/12/28
4910
Costco EDI需求分析
Costco Wholesale Corporation是一家美国跨国公司,经营着一系列仅限会员制的大型零售店。截至 2022 年,好市多Costco 是全球第五大零售商,也是全球最大的首选零售商。为了能够与供应商之间实现更快速、更高效率的数据传输,好市多Costco向其供应商提出通过EDI系统传输业务数据。
知行软件EDI
2022/12/20
4570
「集成架构」2020年最好的15个ETL工具(第三部)
最后,该数据被加载到数据库中。在当前的技术时代,“数据”这个词非常重要,因为大多数业务都围绕着数据、数据流、数据格式等运行。现代应用程序和工作方法需要实时数据来进行处理,为了满足这一目的,市场上有各种各样的ETL工具。
架构师研究会
2021/01/06
2K0
「集成架构」2020年最好的15个ETL工具(第三部)
福特FORD EDI需求分析
福特(Ford)是世界著名的汽车品牌,为美国福特汽车公司(Ford Motor Company)旗下的众多品牌之一。福特在其发展史中始终拥有先进的产业观念,从其“福特制”的生产管理模式可见一斑。
知行软件EDI
2023/02/28
4250
MACOM EDI 需求分析
企业应该如何与 MACOM 建立 EDI 连接呢?在开始 EDI 项目之前需要先确认 EDI 需求,包括:传输协议以及报文标准等信息。
知行软件EDI
2023/07/31
2380
MACOM EDI 需求分析
什么是数据集成平台?数据集成平台推荐
在当今数字化时代,数据无疑是企业的重要资产之一。随着数据源的多样性和数量的不断增加,如何有效地收集、整合、存储和分析数据变得至关重要。为了应对这个挑战,数据集成平台成为了现代企业不可或缺的一部分。
用户7966476
2023/09/19
3K0
数据治理专业认证CDMP学习笔记(思维导图与知识点)- 第八章数据集成和互操作篇
本文档为数据集成和互操作思维导图与知识点整理。共分为5个部分,由于页面显示原因,部分层级未能全部展开。结构如下图所示。
用户6070864
2023/03/24
7670
数据治理专业认证CDMP学习笔记(思维导图与知识点)- 第八章数据集成和互操作篇
零售行业L公司对接百思买Best Buy EDI项目案例
百思买集团Best Buy是全球最大家用电器和电子产品零售集团,在大型家电专业店+连锁经营的基础上同时实施成本领先的战略。引入EDI技术成为其进一步优化其供应链管理体系,实现降本增效的关键一步。
知行软件EDI
2022/04/18
1.3K0
零售行业L公司对接百思买Best Buy EDI项目案例
建设BI的关键前提是ETL数据集成?
很多企业都购买了商业智能(BI)来加速数字化转型,但是发现仅仅依赖BI效果往往不太好。虽然通过BI,企业能够快速分析和可视化数据,然而,BI并不是一个万能工具,它虽然能帮助企业解读数据,但其有效性高度依赖于数据的质量和一致性,很多企业直接用BI连接生产系统的数据进行分析,极大影响了生产系统的性能,而且分析的效果也往往不如意。企业要想解决上述问题,必须要引入关键技术——ETL(提取、转换、加载)来实现对数据清洗和治理并构建企业的数据仓库。
用户7966476
2024/09/10
1990
Babylist EDI 需求详解
Babylist 是一个为准父母提供方便和灵活的婴儿注册服务的平台,帮助他们准备迎接新生儿的到来。Babylist 与各种不同的品牌和零售商合作,包括婴儿用品、玩具、衣物和其他相关产品的制造商。用户可以在 Babylist 上浏览各种不同的产品,并根据自己的需求和喜好选择适合的项目。本文将带大家了解 Babylist 的 EDI 需求,快速理清 EDI 对接思路。
知行软件EDI
2023/07/03
4210
Babylist EDI 需求详解
与吉凯恩GKN建立EDI连接需要掌握哪些信息?
GKN集团(吉凯恩集团)创建于1759年,已有260年的历史。主要业务有大型民航客机和运输机结构件,汽车传动系统,非高速公路用工作车辆和特种车辆,农用机械,粉末冶金,新型合金粉末材料,汽车零部件和环保用汽车催化转化器的生产制造等。
知行软件EDI
2022/08/15
3700
与吉凯恩GKN建立EDI连接需要掌握哪些信息?
德国大陆轮胎Continental EDI 项目案例
德国大陆轮胎公司(以下简称CONTI)致力于为广大车主提供高质量的轮胎,将象征速度和激情的烈马标志作为公司的商标,也因此得名为马牌轮胎。CONTI拥有遍布全球的24个生产与研发基地源源不断地为科技创新提供支持,为乘用车与轻卡、卡车、公交车与工程车以及两轮车提供全面的轮胎解决方案。
知行软件EDI
2022/10/27
3490
德国大陆轮胎Continental EDI 项目案例
卡特彼勒CAT EDI 需求分析
卡特彼勒(Caterpillar Inc.,下文简称为CAT)是总部位于美国伊利诺伊州迪尔菲尔德的重型工业设备制造公司,主要产品包括农业、建筑及采矿等工程机械和柴油发动机、天然气发动机及燃气涡轮发动机。根据其公司网站,卡特彼勒(一般简称为 CAT)是“世界上最大的建筑、采矿设备、柴油、天然气引擎和工业汽轮机生产商。
知行软件EDI
2022/04/28
6540
卡特彼勒CAT EDI 需求分析
EDI集成是竞争优势还是合作优势?
EDI不是一项新兴技术,它已经有50年左右的历史了。EDI集成是否真的能给企业带来竞争优势,亦或是能给企业提供合作优势的支持?我们将在今天的文章中解答这个问题。
知行软件EDI
2021/04/01
9310
EDI集成是竞争优势还是合作优势?
如何与博格华纳BorgWarner通过EDI传输业务数据?
供应商接到来自博格华纳BorgWarner的邀请,要求供应商通过EDI与其传输业务文件。对于初次接触EDI的供应商而言,并不熟悉EDI对接流程,常常会有些无从下手。这时候选择一个项目经验丰富并且拥有成熟EDI产品的EDI供应商会给企业带来很大帮助。
知行软件EDI
2022/07/01
4630
如何与博格华纳BorgWarner通过EDI传输业务数据?
深度解析:DataHub的数据集成与管理策略
文章链接:https://cloud.tencent.com/developer/article/2473806
郑饼饼
2024/12/05
2550
深度解析:DataHub的数据集成与管理策略
使用EDI与SAP集成的解决方案
EDI与SAP集成,可以帮助企业与交易伙伴进行快速、高效和准确的通信,并且可以简化企业内部数据处理流程,提高数据处理效率。
matinal
2023/10/13
4800
推荐阅读
相关推荐
集成架构规划-如何更好的理解应用集成和数据集成之间的关系
更多 >
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档