首页
学习
活动
专区
圈层
工具
发布
社区首页 >专栏 >大数据的两种处理方式是什么_大数据的基本处理模式

大数据的两种处理方式是什么_大数据的基本处理模式

作者头像
全栈程序员站长
发布2022-09-20 18:40:21
发布2022-09-20 18:40:21
8430
举报

大家好,又见面了,我是你们的朋友全栈君。 大数据的处理方式有两种:基于内存的流式处理和基于硬盘的存储处理。 流式处理就好象是在经过的数据面前建一道水闸。数据流过这里,经过闸门的时候,就进行筛选过滤,分析出有价值的内容,然后丢弃,以后也不再使用。 存储处理则是建一个储水池。数据先放进入储水池存起来,需要的时候,再进到储水池里,在里面筛选分析,找到那些有价值的内容。这个过程中,因为水还在储水池里,没放掉,所以可以供下次继续使用。 存储模式的数据处理是可以重复的,用完再用,反复使用。但是因为硬盘本身的机械特性问题,导致它处理速度慢,速率不高。不过现在也还是有一些针对硬盘的优化措施。 流式处理因为数据的处理过程在内存里进行,内存的处理性能是硬盘的数个量级,所以它的处理速率比存储模式高很多。但是也因为数据驻留在内存里,内存的特性是掉电即失的,只能一次性使用。所以流式处理通常是用完即弃,象卫生巾。 大数据产品里,Spark是流式处理,Laxcus、Hadoop是存储处理。

发布者:全栈程序员栈长,转载请注明出处:https://javaforall.cn/167012.html原文链接:https://javaforall.cn

本文参与 腾讯云自媒体同步曝光计划,分享自作者个人站点/博客。
如有侵权请联系 cloudcommunity@tencent.com 删除
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档