Loading [MathJax]/jax/output/CommonHTML/config.js
前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
圈层
工具
发布
首页
学习
活动
专区
圈层
工具
MCP广场
社区首页 >专栏 >[译] 我做基础架构学到的 42 件事

[译] 我做基础架构学到的 42 件事

作者头像
CPP开发前沿
发布于 2022-06-04 09:33:15
发布于 2022-06-04 09:33:15
2480
举报
文章被收录于专栏:CPP开发前沿CPP开发前沿

原文:https://maheshba.bitbucket.io/blog/2021/10/19/42Things.html 译者:多颗糖

译者序

最近读到了分布式系统研究者 Mahesh Balakrishnan 的一篇博客《42 things I learned from building a production database》。同样做基础架构,看完大佬总结的经验后拍案叫绝,其中有几条简直是真知灼见,故翻译了全文。

Mahesh Balakrishnan 是 Facebook Delos 项目的负责人。Delos 对标 ZooKeeper,关于 Delos 更多详细细节其团队已经发了两篇 paper,感兴趣的同学可以自行搜索。

译注:IC = Individual Contributor,即独立贡献者,Facebook 开发团队的一个术语,指那些不是经理、不是 team leader、不是任何领导职位的编码人员,可以理解为一线开发人员。

以下为正文:

对客户(用户)

(1)让你的客户开心;否则这篇文章的其余部分都无关紧要

(2)要注意拥有正确数量的客户(刚开始时,就一个)和合适的客户(他允许你构建关键技术);并小心地增加这个数字。

(3)直接与客户对接。很多团队内部冲突可以通过一句“我刚才和客户谈过,他们说......”来解决。在做基础架构时,我们往往不需要猜测客户的需求,我们可以直接问他们。

(4)但要意识到客户可能无法表达他们真正需要的东西;不要只看到需求的表面价值,而要花时间详细地理解他们的用例。阅读他们的代码。

项目管理

(5)要有一个简单明了的使命宣言来表达你存在的理由。Delos 的宣言是:我们将成为 FB infra 的可靠基础。

(6)反复进行任务难度的评估;决策者可能没有时间、倾向、上下文或培训来进行评估,而且可能会把它们弄错(简直是)几个数量级。

(7)对 IC 的任务分配很关键; 要求自己处于任何决策的关键路径上,因为你通常比经理更了解问题、代码库和 IC 们的优势。如果你和其他 IC 自己解决任务分配问题,大多数经理都会很高兴。

(8)Road-map 是一种手段,而不是目的。

(9)如果你有好的和/或一致的经理,要尽可能地理解、支持和包容。如果你没有这样的经理人......好吧,我还没有想明白这个问题,如果你想明白了,请告诉我。

(10)使你的项目对组织架构调整有足够的鲁棒性,一个公司的管理层级本质上是脆弱的(毕竟,树是一个单连接的图);不断地与未来可能接手这个项目的经理进行交流。不惜一切代价,确保经理人的变动不会给 IC 们带来不公平的职业结果

通常来说,公司组织架构调整是非常频繁的,经常一年就会调整一次,确保经理人的变动不会带来不公平的职业结果,这点其实很难(我也很想知道怎么做到)。

(11)追踪类似的功能在你所在领域的其他项目中花费了多长时间,并以此作为任务难度评估的依据(例如,“功能 X 在系统 Y 中花了 3 年时间;这不是一个 IC 的一半工作”)。

设计

(12)对 API 要保守,对实现要宽松(Be conservative on APIs and liberal with implementations)。

(13)但要坚持谨慎地推出新的实现(灰度、分阶段推出)。

(14)设计 API 时,写代码完成第一个实现(implementation);积极计划第二个实现;并希望/祈祷事情将在第三个实现中发挥作用。(When designing APIs, write code for one implementation; plan actively for the second implementation; and hope/pray that things will work for a third implementation.)

(15)设计 API 时,首要考虑向新实现的迁移;自定义迁移会造成巨大的时间消耗且不可靠。每个主要的 API 都应该有一个单一的 CLI 驱动的调用来切换实现。

(16)作为一个团队去设计;作为个人实现(Design as a team; implement as individuals)。这将使设计成为瓶颈,但这是值得的:抵制并行化设计的冲动。

(17)对于存储系统,在开始时就要重点关注一致性和持久性,而不是可用性;一致性和持久性更难衡量,如果出问题也更难修复。由于可用性更容易衡量,所以会有外部压力要求优先考虑它;推到后面去。

(18)在测试中维护 API 的多个实现;比较它们之间的结果。这样做的代价是值得的(这将有助于正确性,也可以防止实现细节的泄露)。

(19)对设计进行后期绑定(Late-bind):鼓励团队思考整个设计空间,而不是承诺使用某个特定的解决方案。与一群高智商、有主见的 IC 们一起开头脑风暴会议是一门值得掌握的艺术。鼓励在设计的关键路径上进行粗略的原型设计。

(20)对实现者进行后期绑定:一旦设计完成,任何 IC 都应该能够编写代码。

(21)拥有适当数量的抽象(这很难)。太少了,你会得到一个混乱的单体;太多了,团队会被理解每个抽象的语义的认知开销所淹没。

(22)避免使用实时性来保证正确性或在机器间比较时钟,除非你有(并理解)时钟的错误界限

(23)有一个单一的真理来源。在各种类型的状态之间建立简单的不变量。

(24)创造一种文化,让 IC 不断地思考完全不同的设计;不要停止关于假设性替代设计的对话。鼓励好奇心。

(25)了解你的 SKU。云计算使人们很容易忽视硬件;但对硬件(和硬件趋势)的理解对设计来说至关重要。

Code Review

(26)在一个具有快速评审周期的透明代码库中,除非你把关,否则 API 会泄露实现细节。

(27)鼓励 IC 对 diffs 进行批判性的思考,并创造一个人们可以自由表达的环境。作为 diffs 作者,你对指出 diffs 问题的人的反应应该是感激,而不是沮丧。

(28)对于关键组件,考虑非正式的规则,例如要求两个接受(即两个 LGTM)或甚至是某个子集的 IC 的一致接受。

(29)对于关键组件,落地时间不是衡量其重要性的标准:抵制衡量这一标准和优化它的冲动。创造一种让 IC 可以接受 diffs 不能快速落地的文化(创造性的工作——书籍、论文等等——由于高质量 review 的成本,通常需要漫长的 review 周期;为什么代码应该有所不同?)

(30)有时候,你只有在一个 IC 写出了一个候选的设计方案后才意识到这个设计是正确的。要抵制说“哦,好吧,让我们先落地,然后再修复它”的冲动;你这样做对 IC 和项目都没有帮助。创造一种文化,让 IC 感觉到如果这不是正确的解决方案,就可以丢弃代码(以身作则)。

策略

(31)以某种节奏问自己:为什么这个团队/项目会存在?如果它不存在,会发生什么(哪个其他团队/系统会填补这个空白)?该团队是如何为公司增加价值的,以及它如何在未来继续这样做?

(32)跟踪公司内你所在领域的每个其他主要项目:你应该能够比他们自己的 IC 更好地解释他们的技术设计。抓住任何机会去与其他类似项目的负责人辩论项目范围:你应该能够阐明你的项目如何适合更大的生态系统。团队间的竞争是健康和必要的。与这些项目中的 IC 交朋友:他们比公司里的其他人更了解你的技术挑战。

(33)不要在原始性能或效率上与其他团队竞争;这将升级为一场军备竞赛,两个团队都会浪费时间为工作负载优化他们的系统,产生苹果与橘子的比较,等等。在基本设计特性上进行竞争。

(34)如果客观上有人在你的使用场景有更好的系统,并想接手它,那就去找别的事做吧。

可观测性

(35)测量是一种手段,而不是目的。

(36)你应该能够在你的客户之前发现你的服务中的问题。

(37)在尽可能的情况下,可观察性应该在 API 之上,并在实现(implementations)之外。这可以确保你可以切换实现并比较性能,而不会在测量代码中引入错误。它还可以简化实现;并降低新实现的门槛。

(38)任何不容易测量的东西(例如,一致性)往往被遗忘;要特别注意那些难以测量的属性。

(39)尽可能将关键的检查(例如一致性)推到部署本身;尽量减少对外部服务的检查(否则你现在有两件事要跟踪,而不是一件)。

研究

(40)追踪你所在领域的研究成果。很快你就会和你的 IC 有一个速记,可以实现超快的沟通。"如果我们尝试项目 X 中的那个东西呢?并将其与项目 Y 中的技术相结合?"。

(41)尝试新事物。在可行的解决方案内,偏向于新的东西。抵制逐字逐句地复制设计的冲动。每一个重要的系统在某些时候都只是某人头脑中的一个半生不熟的想法。

(42)写论文。为那些对你正在做的事情没有任何背景的听众写作,将迫使你检查和澄清你的假设。论文可以使你更容易雇用到优秀的人才,也更容易让他们上岗。研究生应该能够向你解释你的设计(并发现错误!)。当被要求做讲座时,尽量答应。它们很有趣,而且你可以认识新的人

本文参与 腾讯云自媒体同步曝光计划,分享自微信公众号。
原始发表:2022-05-10,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 CPP开发前沿 微信公众号,前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体同步曝光计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
暂无评论
推荐阅读
编辑精选文章
换一批
分布式唯一id生成 - 雪花算法
github官网: https://github.com/twitter-archive/snowflake
用户5927264
2020/05/06
4K0
分布式唯一 ID 之 Snowflake 算法
Snowflake(雪花) 是一项服务,用于为 Twitter 内的对象(推文,直接消息,用户,集合,列表等)生成唯一的 ID。这些 IDs 是唯一的 64 位无符号整数,它们基于时间,而不是顺序的。完整的 ID 由时间戳,工作机器编号和序列号组成。当在 API 中使用 JSON 数据格式时,请务必始终使用 id_str 字段而不是 id,这一点很重要。这是由于处理JSON 的 Javascript 和其他语言计算大整数的方式造成的。如果你遇到 id 和 id_str 似乎不匹配的情况,这是因为你的环境已经解析了 id 整数,并在处理的过程中仔细分析了这个数字。
阿宝哥
2019/11/06
1.9K0
分布式唯一 ID 之 Snowflake 算法
雪花算法:分布式唯一ID生成利器
无论是在分布式系统中的ID生成,还是在业务系统中请求流水号这一类唯一编号的生成,都是软件开发人员经常会面临的一场景。而雪花算法便是这些场景的一个解决方案。
程序新视界
2022/05/06
1.2K0
雪花算法:分布式唯一ID生成利器
面试题108:如何生成分布式系统的唯一ID?
针对业务数据来说,通常都是需要唯一id的,比如学生的学号、订单的订单号,支付流水的流水号等等。那么,如果采用最简单的方式,就是插入时候设置主键auto increment的自增方式。那么插入表中的数据都是唯一的,不过方案虽然简单,但是弊端确实很多。比如通过这种自增的方式,用户很容易就会通过遍历id的方式,获得库中的业务数据,并且如果采用了分库分表的方式,那么就无法通过主键自增的方式来控制业务数据唯一性。那么如果采取MD5的方式呢,却失去了业务含义,并且不利于在分库分表的场景下,通过id快速确定数据在哪个库或
爪哇缪斯
2023/05/10
3450
面试题108:如何生成分布式系统的唯一ID?
【黄啊码】百万级别订单量,如何生成唯一订单ID(雪花算法)
Twitter-SnowFlake算法的产生是源于Twitter为了满足自己业务(每秒上万条消息的请求,每条消息都必须分配一条唯一的id,并且在分布式系统中不同机器产生的id必须不同)的需求。
黄啊码
2022/06/15
6690
Java系列之雪花算法和原理
SnowFlake 算法:是 Twitter 开源的分布式 id 生成算法。 核心思想:使用一个 64 bit 的 long 型的数字作为全局唯一 id。 首先了解一下雪花ID的结构:从网上盗用一张;
沁溪源
2020/11/24
1.2K0
Java系列之雪花算法和原理
最常用的分布式ID解决方案
说起ID,特性就是唯一,在人的世界里,ID就是身份证,是每个人的唯一的身份标识。在复杂的分布式系统中,往往也需要对大量的数据和消息进行唯一标识。举个例子,数据库的ID字段在单体的情况下可以使用自增来作为ID,但是对数据分库分表后一定需要一个唯一的ID来标识一条数据,这个ID就是分布式ID。对于分布式ID而言,也需要具备分布式系统的特点:高并发,高可用,高性能等特点。
BUG弄潮儿
2020/12/17
6420
最常用的分布式ID解决方案
分布式ID生成之雪花(SnowFlake)算法
分布式 ID 生成算法的有很多种,Twitter 的 SnowFlake 就是其中经典的一种。
码之有理
2024/03/12
6560
分布式全局ID解决方案解析及示例
- 非顺序生成,不利于数据库索引优化,影响查询效率,特别是在需要扫描数据段的场景下。
用户7353950
2024/04/18
2320
分布式全局ID解决方案解析及示例
springBoot 整合自定义的雪花算法
1 配置pom文件 # 雪花算法配置数据中心和机器编号,不同机器组合不能重复 snowflake: datacenterId: 1 machineId: 2 2 编写配置文件 SnowFlakeFactory.java package com.un.framework.snowflack; import java.util.Map; import java.util.concurrent.ConcurrentHashMap; import java.util.concurrent.TimeUni
用户5927264
2020/05/28
5.1K0
寻找写代码感觉(十四)之 新增功能的开发
小时候特别想长大,现在特别想回到小时候,长大就会有烦恼,不是感叹生活各方面的压力,只是单纯的向往孩子般无忧无虑的生活。
落寞的鱼丶
2022/02/21
2850
ID生成算法-雪花算法介绍及实现
SnowFlake 算法生成的 ID 是一个 64 位的整数,它的结构如下图所示:
王强
2020/07/06
2.9K0
Flink去重第四弹:bitmap精确去重
在前面提到的精确去重方案都是会保存全量的数据,但是这种方式是以牺牲存储为代价的,而hyperloglog方式虽然减少了存储但是损失了精度,那么如何能够做到精确去重又能不消耗太多的存储呢,这篇主要讲解如何使用bitmap做精确去重。
Flink实战剖析
2022/04/18
2.6K0
Flink去重第四弹:bitmap精确去重
关于生成订单号规则的一些思考
关于我为什么写这篇文章是因为今天在做订单模块的时候,看到之前的PRD上描述的订单生成规则是由 年月日+用户id2位+企业id位 +四位自增长数。然后竟被我反驳的突然改成了精确时间+4位自增长数,于是我更失望了。
Michel_Rolle
2023/07/30
2.8K0
框架篇:分布式全局唯一ID
每一次HTTP请求,数据库的事务的执行,我们追踪代码执行的过程中,需要一个唯一值和这些业务操作相关联,对于单机的系统,可以用数据库的自增ID或者时间戳加一个在本机递增值,即可实现唯一值。但在分布式,又该如何实现唯一性的ID
潜行前行
2021/07/23
7170
【wiki知识库】07.用户管理后端SpringBoot部分
这一块的代码和之前的相同,我们找到逆向工程的工具类后,把类的部分改为user即可。
哈__
2024/08/06
1060
【wiki知识库】07.用户管理后端SpringBoot部分
聊聊PowerJob的IdGenerateService
tech/powerjob/server/core/uid/IdGenerateService.java
code4it
2024/01/10
1370
一步步带你了解ID发号器是什么、为什么、如何做!
上一篇文章《面试必备:如何将一个长URL转换为一个短URL?》中谈到如何将长地址URL转换为短地址URL,其中谈到了一个比较理想的解决方案就是使用发号器生成一个唯一的整数ID,然后转换为62进制,作为短地址URL。
Java后端技术
2018/08/09
1.4K0
一步步带你了解ID发号器是什么、为什么、如何做!
聊聊PowerJob的IdGenerateService
tech/powerjob/server/core/uid/IdGenerateService.java
code4it
2024/01/19
1320
聊聊PowerJob的IdGenerateService
一口气说出 9种 分布式ID生成方式,面试官有点懵了
前两天公众号有个粉丝给我留言吐槽最近面试:“四哥,年前我在公司受点委屈一冲动就裸辞了,然后现在疫情严重两个多月还没找到工作,接了几个视频面试也都没下文。好多面试官问完一个问题,紧接着说还会其他解决方法吗?能干活解决bug不就行了吗?那还得会多少种方法?”
程序员小富
2020/02/16
1.1K0
一口气说出 9种 分布式ID生成方式,面试官有点懵了
相关推荐
分布式唯一id生成 - 雪花算法
更多 >
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档