首页
学习
活动
专区
圈层
工具
发布
首页
学习
活动
专区
圈层
工具
MCP广场
社区首页 >专栏 >为什么说ETL数据集成无法满足企业当下的业务需求呢?

为什么说ETL数据集成无法满足企业当下的业务需求呢?

原创
作者头像
知行软件EDI
修改于 2021-09-16 10:22:18
修改于 2021-09-16 10:22:18
7620
举报

长期以来,IT团队一直依赖企业数据仓库作为其业务工作流程的中央数据基础设施。所有的东西都是通过这个仓库运行的,ETL数据集成的可靠工具,从源应用程序和系统中提取数据,将其加载到目标仓库中,并将其转换为可访问的形式。

但仅有ETL工具是不够的。随着企业使用更多的数据系统,意味着需要更大的数据量和可访问性,IT团队需要处理ETL无法提供的复杂数据转换以及更多的复杂需求。针对上文提到的需求,我们需要考虑以下场景:

  • 复杂的业务逻辑和验证
  • B2B系统集成
  • 实时集成

本文讨论了为什么ETL工具可能不足以满足这些业务需求,以及iPaaS集成解决方案如何解决这些复杂的需求。

1.复杂的业务逻辑和应用集成

在某些情况下,当您将数据从一个应用程序移动到另一个应用程序时,可能无法在源系统和目标系统之间执行简单的 1:1 数据集成。数据可能有多个来源或目的地,需要业务逻辑根据预先确定的变量来确定将数据发送到何处以及如何处理数据。

例如,让我们看一个典型的电子商务交易。当客户下订单时,系统可以触发在库存数据库中的查找操作,以检查物品是否存在,将商品标记为已售,将销售价添加到会计系统,并将发货订单发送到物流系统。这个过程涉及到您的业务逻辑。如果该商品在仓库中,并且是可提供的,您可以发送发货通知并触发订单发货的工作流程。如果物品不在仓库中,则可能需要不同的工作流程来指导您的 ERP 系统重新进货,然后开始发货。

您可能还需要业务逻辑来验证数据。例如,一个工作流程可以确定一个订单是否包含您不再提供的物品。或者您可能想要调用 USPS 地址验证服务以确保收货地址正确。

一个简单移动数据的ETL解决方案将无法提供必要的业务逻辑来创建这些复杂的工作流或执行必要的数据验证。

2.B2B 系统集成

你的交易伙伴每天都会产生大量的数据,这些数据都存储在他们自己的数据库、ERP、CRM或者其他业务管理系统中。为了利用这些数据,你需要将这些外部应用程序和数据库连接到你自己的数据仓库和应用程序。这个过程不仅涉及数据转换,还涉及企业网络之间的安全数据移动。

以一家全球领先的轮胎制造商——米其林为例。他们在很大程度上依赖于一个物流合作伙伴的车队,将他们的轮胎分销到世界各地并连接他们的供应链。为了集中和利用隐藏在他们合作伙伴的个人数据存储和应用程序中的数据,米其林需要将这些数据导入他们的中央PostgreSQL数据库。他们还需要安全、大量的企业文件传输和高度复杂的数据映射,以便将来自众多系统的数据转化为PostgreSQL系统的通用数据模型。

3.实时集成

在某些情况下,数据可能是时间敏感的。例如,假设一家酒店需要在客户预订后立即更新其预订数据库,以避免重复预订房间的风险。酒店不能容忍预订房间和更新系统之间的时间滞后。

大多数 ETL 工具使用预定或者轮询的方式来移动数据。在指定的时间间隔内,ETL 解决方案会询问源应用程序是否有任何更改,如果有,则将更新的数据推送到目标数据库。

如果过于频繁地拉取数据,则会造成不必要地资源消耗。但如果您的提取频率过低,则可能会导致数据不准确。

相反,您需要一个由特定事件触发的工作流。包含 webhooks 的应用程序集成解决方案可以不断监听源系统中的变化。当收到需要特定数据集的请求时,webhooks 会立即集成必要的数据,以消除轮询间隔并实时提供数据。

iPaaS 解决方案

虽然 ETL 无法解决上述场景,但集成平台即服务 (iPaaS) 解决方案可以满足您和您的企业当下的数据需求。

知行之桥是一种轻量级、轻代码的iPaaS 应用程序,可让您执行复杂的实时集成并填补 ETL 功能的空白。

知行之桥提供了一个直观的拖放式工作流界面,让您无需编码即可快速构建应用程序集成流程。它可以在一个地方支持所有复杂的集成,具有 B2B 系统集成、高级业务逻辑、数据验证和通过 Webhook 实时集成的功能。

它还简化了工作流管理,为您提供一个集中的位置来协调您的集成,包括:

  • 过程监控
  • 便于审计的日志
  • 安全和加密
  • 用户管理
  • 拖放数据映射用于 XML 驱动的数据转换
  • 用于高级映射和集成的内置脚本引擎
  • 用于远程管理的开发人员友好的管理 API

知行之桥可在本地、云端以及 AWS 和 Azure 上使用。了解更多信息,欢迎交流~

注:文案部分图片及内容来源于网络,版权归原创作者所有,如有侵犯到您的权益,请您联系我们进行删除,给您带来困扰,我们深感抱歉。

原创声明:本文系作者授权腾讯云开发者社区发表,未经许可,不得转载。

如有侵权,请联系 cloudcommunity@tencent.com 删除。

原创声明:本文系作者授权腾讯云开发者社区发表,未经许可,不得转载。

如有侵权,请联系 cloudcommunity@tencent.com 删除。

评论
登录后参与评论
暂无评论
推荐阅读
编辑精选文章
换一批
3.25VR扫描:苹果现支持通用购买;英伟达用LED为VR头显实现轻量级眼动追踪功能
近日,苹果开发者网站发布更新,表示通用购买现已包含Mac应用程序。即开发者能够使用苹果的Catalyst的技术,在App Store和Mac App Store同时上架应用程序。如果消费者购买了某个平台版本,那么就自动解锁其他平台的同款应用。
VRPinea
2020/03/30
6120
全国3000多名医护人员感染新冠,医疗机器人与智能技术提供解决方案
本文通过研究医护人员受感染的途径,找到医疗机器人针对性的解决方法和思路,并总结相关医疗发展的一些趋势和特征。
数据派THU
2020/02/27
6940
全国3000多名医护人员感染新冠,医疗机器人与智能技术提供解决方案
4.28 VR扫描:微软计划为HoloLens推出虚拟多屏显示应用HoloScreens
(VRPinea 4月28日电)今日重点新闻:微软计划为HoloLens推出虚拟多屏显示应用HoloScreens;Snapchat:疫情期间视频通话功能较上月增长50%,AR滤镜使用时长增长25%;VR/AR培训公司Virti获TechForce19挑战计划资金,助医护人员应对疫情。
VRPinea
2020/05/04
7980
新冠病毒侵入人体全过程!从脚趾到大脑,科学家追踪到病毒对身体的巨大摧残
在杜兰大学医学院,肺病和重症监护医生Joshua Denson发现,一天之内,在约20位重症监护病人中,有2名患者出现癫痫症状,其余不少患者出现呼吸衰竭的症状,还有小部分患者的肾脏功能急剧衰减。
大数据文摘
2020/05/19
7300
新冠病毒侵入人体全过程!从脚趾到大脑,科学家追踪到病毒对身体的巨大摧残
到底什么是智慧医疗?
之前,我给大家介绍了智慧城市(链接)和智慧教育(链接)。今天是咱们智慧行业系列的第三个专题,来聊聊智慧医疗。
鲜枣课堂
2021/05/17
1.3K0
到底什么是智慧医疗?
新冠病毒A型血更易感,O型血风险较低:首个新冠血型感染研究发布 | 8机构联合攻关,雷神山院长参与
这就是国内8所科研机构联合完成的最新新冠病毒研究。既有南方科技大学、上海交大和华东师范等高校,也有深圳市第三人民医院(南方科技大学第二附属医院)、武汉市金银潭医院、武汉大学人民医院、中国医学科学院阜外医院,以及武汉大学中南医院等疫情一线机构。
量子位
2020/03/18
4510
用人工智能保护一线医护人员
Shielding-Frontline-Health-Workers-with-AI-1536x944_副本.jpg
用户4122690
2020/07/11
4040
用人工智能保护一线医护人员
欧美国家是时候人人戴口罩了!N95之父华裔科学家Peter Tsai 教你如何正确戴口罩
为何疫情在东亚国家蔓延较慢(日本、新加坡等)、或是已被部分或彻底遏制(中国、韩国),而在欧美国家蔓延速度如此令人震惊?公众和专家越来越多地开始质疑两边社会行为的一个巨大不同:大多数普通人不戴口罩,是不是疫情在欧美社会造成蔓延的重要原因之一?
新智元
2020/04/01
8620
全球抗击COVID-19联盟,GACC(全球抗击新冠病毒肺炎联盟)丨附本周直播日历
COVID-19大流行正在全球范围内蔓延,给全球公共卫生系统带来了巨大挑战。全球抗击COVID-19联盟(GACC)将组织一系列在线论坛和研讨会,为世界各地的顶级医疗保健专家构建协作环境,使他们可以分享经验并互相提供技术支持。新抗病毒新冠状病毒肺炎正在全球蔓延,给世界范围内的公共卫生系统带来巨大挑战。全球抗击新冠状病毒肺炎联盟(全球抗击COVID-19联盟,简称GACC)将组织在线论坛和学术研讨会,建设全球医疗顶级专家的合作平台,共同分享经验,相互提供技术支持。
可可爱爱没有脑袋
2020/05/19
1.1K0
全球抗击COVID-19联盟,GACC(全球抗击新冠病毒肺炎联盟)丨附本周直播日历
全球抗击COVID-19联盟,GACC(全球抗击新冠病毒肺炎联盟)丨附本周直播日历
阅读本文大约需要10分钟 COVID-19大流行正在全球范围内蔓延,给全球公共卫生系统带来了巨大挑战。全球抗击COVID-19联盟(GACC)将组织一系列在线论坛和研讨会,为世界各地的顶级医疗保健专家构建协作环境,使他们可以分享经验并互相提供技术支持。新抗病毒新冠状病毒肺炎正在全球蔓延,给世界范围内的公共卫生系统带来巨大挑战。全球抗击新冠状病毒肺炎联盟(全球抗击COVID-19联盟,简称GACC)将组织在线论坛和学术研讨会,建设全球医疗顶级专家的合作平台,共同分享经验,相互提供技术支持。 吴文达(腾讯医
腾讯产业互联网学堂1
2023/05/29
3230
全球抗击COVID-19联盟,GACC(全球抗击新冠病毒肺炎联盟)丨附本周直播日历
3秒内完成新冠肺炎定量筛查!全国首个抗疫AI影像系统是怎样炼成的?
1月28日,大年初四,“胸部CT新型冠状病毒肺炎智能评价系统”,正式在上海公共卫生临床中心上线。
量子位
2020/02/25
4760
闻不出猫砂臭味?你可能得了新冠肺炎!英美鼻科学会呼吁嗅觉失调者在家隔离
母亲闻不到婴儿的尿布,鼻子灵敏的厨师闻不出咖喱或大蒜的味道,还有人表示他们无法闻到洗发水的香味或猫砂的臭味。
大数据文摘
2020/04/01
4870
闻不出猫砂臭味?你可能得了新冠肺炎!英美鼻科学会呼吁嗅觉失调者在家隔离
疫情之后,医生们希望他们的机器助手留下来
面对COVID-19这种传染性疾病,医院里多一些机器人助手帮忙消毒、排查,或许医生们会更加有安全感。
大数据文摘
2020/07/22
3530
疫情之后,医生们希望他们的机器助手留下来
图解新冠病毒:为什么单张图表根本不能说明新冠疫情的发展情况?
外国友人表示,这些天来,只要你在Twitter上浏览视频,几乎都会碰到COVID-19图表。人们试图用这些图表来判断疫情是否已经“达到顶峰”。
大数据文摘
2020/05/19
4440
图解新冠病毒:为什么单张图表根本不能说明新冠疫情的发展情况?
世界卫生组织与腾讯加深合作,新冠肺炎AI自查助手全球开源
腾讯和世界卫生组织达成进一步合作了! 腾讯决定向世卫组织的COVID-19团结应急基金捐款1000万美元,并与之达成共同推动以数字医疗解决方案助力全球抗疫的协议。 世卫组织上月推出COVID-19团结应急基金,用以帮助全球所有国家,尤其是为医疗系统薄弱、疫情即将爆发或加速爆发的国家做好准备和应对,例如迅速发现病例,阻止病毒传播,以及照顾新冠肺炎病患。 而腾讯捐出的1000万美元,来自于腾讯上月设立的一亿美元全球战疫基金。该基金已向全球医院和一线医护人员提供了大批口罩、医疗个人防护装备和呼吸机等紧急医疗装备
腾讯大讲堂
2020/04/09
2770
7万病例,迄今最大新冠研究发表:传染性超SARS,医务人员感染超三千
新冠病毒引起的疫情仍在肆虐,截止今天上午,全国统计已有新冠肺炎确诊病例超过 72000 人。
机器之心
2020/02/24
6460
7万病例,迄今最大新冠研究发表:传染性超SARS,医务人员感染超三千
VR助力!这对3岁大的连颅双胞胎被成功分离
(VRPinea 8月5日讯)三年前在巴西,一对名叫Bernardo和Arthur Lima的双胞胎男孩出生了。不幸的是,他们的头部是相连的。虽然没有共用脑组织,但有一条主要静脉连接着两个孩子的大脑。如何在不构成生命威胁的前提下分离他俩,对此医生们也束手无策。
VRPinea
2022/11/16
2370
VR助力!这对3岁大的连颅双胞胎被成功分离
业界 | 机器学习+ICU:为重症患者提供实时护理
在医院重症监护室(ICU),重症患者在病床上躺着,全身连接着各种机器设备,这些机器能提供患者全天候的照顾。
大数据文摘
2018/11/23
1K0
钟南山团队携手腾讯研发新冠重症AI预测,成果登上Nature子刊
根据临床研究,轻度COVID-19患者通常能够在疾病发生发展到一定程度后,靠机体调节控制逐渐痊愈,但有6.5%患者的病情会突然进展为严重疾病,这些重症病例不但需要大量的医疗护理资源,死亡率也高达49%。
大数据文摘
2020/07/28
4180
钟南山团队携手腾讯研发新冠重症AI预测,成果登上Nature子刊
【基因有话说】医疗数据到底该不该公开?
摘自:华大基因 微信:BGI1999 大数据与健康的关系日益紧密,用华大基因CEO王俊的“基友论”来解释,这也意味着硅基数据对碳基生命越来越重要了。 公开医疗数据的价值 医疗信息涵盖许多,包括CT、核磁共振、血液检测、基因检测结果,接种经历,医生诊断,手术视频……这些数据是典型的“整体大于部分之和”,至少,对科技型创业者Jonathan Hirsch和MIT博士Steven Keating来说是这样的。 科技型创业者Jonathan Hirsch在手被生锈的金属割伤后匆匆前往医院,但他忘记了自己是否接种
大数据文摘
2018/05/23
7600
推荐阅读
3.25VR扫描:苹果现支持通用购买;英伟达用LED为VR头显实现轻量级眼动追踪功能
6120
全国3000多名医护人员感染新冠,医疗机器人与智能技术提供解决方案
6940
4.28 VR扫描:微软计划为HoloLens推出虚拟多屏显示应用HoloScreens
7980
新冠病毒侵入人体全过程!从脚趾到大脑,科学家追踪到病毒对身体的巨大摧残
7300
到底什么是智慧医疗?
1.3K0
新冠病毒A型血更易感,O型血风险较低:首个新冠血型感染研究发布 | 8机构联合攻关,雷神山院长参与
4510
用人工智能保护一线医护人员
4040
欧美国家是时候人人戴口罩了!N95之父华裔科学家Peter Tsai 教你如何正确戴口罩
8620
全球抗击COVID-19联盟,GACC(全球抗击新冠病毒肺炎联盟)丨附本周直播日历
1.1K0
全球抗击COVID-19联盟,GACC(全球抗击新冠病毒肺炎联盟)丨附本周直播日历
3230
3秒内完成新冠肺炎定量筛查!全国首个抗疫AI影像系统是怎样炼成的?
4760
闻不出猫砂臭味?你可能得了新冠肺炎!英美鼻科学会呼吁嗅觉失调者在家隔离
4870
疫情之后,医生们希望他们的机器助手留下来
3530
图解新冠病毒:为什么单张图表根本不能说明新冠疫情的发展情况?
4440
世界卫生组织与腾讯加深合作,新冠肺炎AI自查助手全球开源
2770
7万病例,迄今最大新冠研究发表:传染性超SARS,医务人员感染超三千
6460
VR助力!这对3岁大的连颅双胞胎被成功分离
2370
业界 | 机器学习+ICU:为重症患者提供实时护理
1K0
钟南山团队携手腾讯研发新冠重症AI预测,成果登上Nature子刊
4180
【基因有话说】医疗数据到底该不该公开?
7600
相关推荐
3.25VR扫描:苹果现支持通用购买;英伟达用LED为VR头显实现轻量级眼动追踪功能
更多 >
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档