首页
学习
活动
专区
圈层
工具
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往

#spark

Apache Spark是一个开源集群运算框架,Spark使用了存储器内运算技术,能在数据尚未写入硬盘时即在存储器内分析运算。

Hive SQL实现近N周的数据统计查询

朱季谦

先前遇到过一个需求,需要基于HIVE统计近N周范围的数据,例如,统计近7周范围的数据指标。

4010

【活动回顾】StarRocks Singapore Meetup #2 @Shopee

StarRocks

3 月 13 日,StarRocks 社区在新加坡成功举办了第二场 Meetup 活动,主题为“Empowering Customer-Facing Analy...

6810

突破性语音合成技术!Spark-TTS:用大模型打造你的专属AI语音助手

AI浩

你是否想过,未来的语音助手不仅能“说话”,还能根据你的需求调整音色、语速甚至情绪?近日,一项名为Spark-TTS的突破性技术横空出世,它基于大语言模型(LLM...

77010

开窗函数 spark sql实现累加、累积计数、累乘

数据仓库晨曦

我们首先想到的是直接使用count(disitnct amount) 的方式来完成,注意:在hive中支持count(distinct amount)over(...

10910

Gluten肝货:Spark Native加速技术完整实践案例总结

用户9421738

目前gluten支持两种backend:clickhouse和velox,本文实践基于gluten与clickhouse组合方式。

5400

详解spark开窗函数

数据仓库晨曦

窗口函数(Window functions)又称分析函数或开窗函数,它允许你在不改变原始行的情况下,对一组相关的行(称为“窗口”)进行计算和分析。与普通的聚合函...

6311

【赵渝强老师】Spark RDD的缓存机制

赵渝强老师

Spark RDD通过persist方法或cache方法可以将计算结果的缓存,但是并不是这两个方法被调用时立即缓存,而是触发后面的action时,该RDD才会被...

9110

【赵渝强老师】Spark的容错机制:检查点

赵渝强老师

这种模式需要将spark-shell运行在本地模式上。下面的代码使用了本地目录作为RDD检查点的目录

8810

【赵渝强老师】Spark RDD的依赖关系和任务阶段

赵渝强老师

Spark RDD彼此之间会存在一定的依赖关系。依赖关系有两种不同的类型:窄依赖和宽依赖。

7410

账户合并

代码小李

给定一组账户,每个账户有一个名称和一组电子邮件地址。电子邮件地址可能会在多个账户中重复出现。如果两个账户有相同的电子邮件地址,则认为这两个账户属于同一用户。请将...

7300

【智能大数据分析 | 实验四】Spark实验:Spark Streaming

Francek Chen

要求实验结束时,每位学生能正确运行成功本实验中所写的 jar 包程序,能正确的计算出单词数目。

13300

【智能大数据分析 | 实验二】Spark实验:部署Spark集群

Francek Chen

能够理解 Spark 存在的原因,了解 Spark 的生态圈,理解 Spark 体系架构并理解 Spark 计算模型。学会部署 Spark 集群并启动 Spar...

9400

Spark编程实验六:Spark机器学习库MLlib编程

Francek Chen

1、通过实验掌握基本的MLLib编程方法; 2、掌握用MLLib解决一些常见的数据分析问题,包括数据导入、成分分析和分类和预测等。

7100

Spark编程实验五:Spark Structured Streaming编程

Francek Chen

1、通过实验掌握Structured Streaming的基本编程方法; 2、掌握日志分析的常规操作,包括拆分日志方法和分析场景。

8400

Spark MLlib

Francek Chen

机器学习可以看做是一门人工智能的科学,该领域的主要研究对象是人工智能。机器学习利用数据或以往的经验,以此优化计算机程序的性能标准。

8400

Spark编程实验四:Spark Streaming编程

Francek Chen

继续在流计算端的sparkstreaming目录下创建一个socket目录,然后在该目录下创建一个NetworkWordCount.py程序:

4100

Spark Streaming

Francek Chen

很多企业为了支持决策分析而构建的数据仓库系统,其中存放的大量历史数据就是静态数据。技术人员可以利用数据挖掘和OLAP(On-Line Analy...

6300

Spark编程实验三:Spark SQL编程

Francek Chen

1、通过实验掌握Spark SQL的基本编程方法; 2、熟悉RDD到DataFrame的转化方法; 3、熟悉利用Spark SQL管理来自不同数据源的数据。

8210

Spark SQL

Francek Chen

spark.read.format("text").load("people.txt"):读取文本文件people.json创建DataFrame。 spark...

9610
领券