大家好,我是Maynor。相信大家和我一样,都有一个大厂梦
,作为一名资深大数据选手,深知SQL重要性,接下来我准备用100天时间,基于大数据岗面试中的经典SQL题
,以每日1题的形式,带你过一遍热门SQL题并给出恰如其分的解答。
一路走来,随着问题加深,发现不会的也愈来愈多。但底气着实足了不少,相信不少朋友和我一样,日积月累才是最有效的学习方式!
学习!还是他娘地学习!
需求1:每日活跃用户
用户每日登陆脉脉会访问app不同的模块,
现有两个表 表1记录了每日脉脉活跃用户的uid和不同模块的活跃时长表2记录了脉脉所有注册用户的一些属性
– 表1 dau 记录了每日脉脉活跃用户的uid和不同模块的活跃时长
create or replace temporary view dau(d, uid, module, active_duration) as
values (‘2020-01-01’, 1, ‘jobs’, 324),
(‘2020-01-01’, 2, ‘feeds’, 445),
(‘2020-01-01’, 3, ‘im’, 345),
(‘2020-01-02’, 2, ‘network’, 765),
(‘2020-01-02’, 3, ‘jobs’, 342);
– 表2 users 脉脉所有用户得一些注册属性
create or replace temporary view users(uid, career_level, city, work_length) as
values (1, ‘中级人才’, ‘北京’, 4),
(2, ‘高级人才’, ‘上海’, 7),
(3, ‘初级人才’, ‘北京’, 1),
(4, ‘普通人才’, ‘平顶山’, 2);
我们可以使用SQL语句来查询每日活跃的用户数。首先,我们需要筛选出九月份的数据,然后按日期分组,最后计算每组中不同用户的数量。
我们可以使用SQL语句来查询每日活跃用户当日活跃时长最大的模块。首先,我们需要筛选出九月份的数据,然后按日期和用户分组,最后计算每组中活跃时长最大的模块。
我们可以使用SQL语句来查询十一期间jobs模块活跃超过100s的用户。首先,我们需要筛选出十一期间jobs模块的数据,然后按用户分组,最后计算每组中活跃时长超过100s的用户。
表1:maimai.dau
d | uid | module | active_duration | 列说明 |
---|---|---|---|---|
2020-01-01 | 1 | jobs | 324 | d: 活 跃 的 日 期 uid:用户的唯一编码module:用户活跃模块actre.duration:该模块下对应的活跃时长(单位:s) |
2020-01-01 | 2 | feeds | 445 | |
2020-01-01 | 3 | im | 345 | |
2020-01-02 | 2 | network | 765 | |
2020-01-02 | 3 | jobs | 342 | |
… | … | … | … |
表2:maimai.users
uid | career_level | city | work_length | 列说明 |
---|---|---|---|---|
1 | 中级人才 | 北京 | 4 | uid:用户的唯一编码career level:人才级别 |
2 | 高级人才 | 上海 | 7 | |
3 | 初级人才 | 北京 | 1 | city:用户所在城市work_length:用户工作年限 |
4 | 普通人才 | 平顶山 | 2 | |
… | … | … | … |
提高SQL功底的思路。 1、造数据。因为有数据支撑,会方便我们根据数据结果去不断调整SQL的写法。 造数据语法既可以create table再insert into,也可以用下面的create temporary view xx as values语句,更简单。 其中create temporary view xx as values语句,SparkSQL语法支持,hive不支持。 2、先将结果表画出来,包括结果字段名有哪些,数据量也画几条。这是分析他要什么。 从源表到结果表,一路可能要走多个步骤,其实就是可能需要多个子查询,过程多就用with as来重构提高可读性。 3、要由简单过度到复杂,不要一下子就写一个很复杂的。 先写简单的select from table…,每个中间步骤都执行打印结果,看是否符合预期, 根据中间结果,进一步调整修饰SQL语句,再执行,直到接近结果表。 4、数据量要小,工具要快,如果用hive,就设置set hive.exec.mode.local.auto=true;如果是SparkSQL,就设置合适的shuffle并行度,set spark.sql.shuffle.partitions=4;