Loading [MathJax]/jax/output/CommonHTML/config.js
前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
圈层
工具
发布
首页
学习
活动
专区
圈层
工具
社区首页 >专栏 >一文搞懂RPC的基本原理和层次架构

一文搞懂RPC的基本原理和层次架构

作者头像
开发内功修炼
发布于 2022-05-09 13:46:37
发布于 2022-05-09 13:46:37
94800
代码可运行
举报
文章被收录于专栏:开发内功修炼开发内功修炼
运行总次数:0
代码可运行

本文来自srpc作者李颖欣,飞哥在此基础上略做改动。

只要涉及到网络通信,必然涉及到网络协议,应用层也是一样。在应用层最标准和常用的就是HTTP协议。但在很多性能要求较高的场景各大企业内部也会自定义的 RPC 协议。举个例子,就是相当于各个省不但用官方普通话,还都有自己的方言,RPC就相当于是一个方言。

RPC 的全称是Remote Procedure Call,翻译过来就是远程过程调用。但飞哥我觉得这个名字起的一点都不好,过分强调了和LPC(本地过程调用)的对比。没有突出出来 RPC 本身涉及到的一些技术特点。

我们今天来从三个角度和大家聊聊 RPC。

  • RPC是什么:通过和HTTP的对比来帮大家了解RPC
  • RPC有什么:介绍了RPC用到的用户桩代码、IDL序列化、压缩、协议、通信等技术点
  • RPC生命周期:详细探讨RPC从请求发出到收到返回的全过程

今天的讲解会结合基于C++实现的开源项目SRPC。SRPC整体代码风格简洁、架构层次精巧,整体约1万行代码,非常适合用来学习RPC架构:https://github.com/sogou/srpc

一. RPC是什么

RPC可以分为两部分:用户调用接口 + 具体网络协议。前者为开发者需要关心的,后者由框架来实现。

1. 用户调用接口

举个例子,我们定义一个函数,我们希望函数如果输入为“Hello World”的话,输出给一个“OK”,那么这个函数是个本地调用。如果一个远程服务收到“Hello World”可以给我们返回一个“OK”,那么这是一个远程调用。我们会和服务约定好远程调用的函数名。因此,我们的用户接口就是:输入输出远程函数名,比如用SRPC开发的话,client端的代码会长这样:

代码语言:javascript
代码运行次数:0
运行
AI代码解释
复制
int main()
{
    Example::SRPCClient client(IP, PORT);
    EchoRequest req; // 用户自定义的请求结构
    EchoResponse resp; // 用户自定义的回复结构
  
    req.set_message("Hello World");
    client.Echo(&req, &resp, NULL); // 调用远程函数名为Echo
    return 0;
}
2. 具体网络协议

这是框架来实现的,把开发者要发出和接收的内容以某种应用层协议打包进行网络收发。这里可以和HTTP进行一个明显的对比:

  • RPC是一种自定义网络协议,由具体框架来定,比如SRPC里支持的RPC协议有:SRPC / thrift / BRPC / tRPC,并且也是tRPC协议目前唯一的开源实现,我们拿其中的SogouRPC-std protocol为例给大家看看RPC协议的大概样子:
  • HTTP也是一种网络协议,但包的内容是固定的,必须是:请求行 + 请求头 + 请求体;
3. 进一步思考

上图对应的颜色,所实现的功能是类似的。我们想一想,为什么大家都长差不多呢?

这里就需要搞清楚,我们想要实现用户接口,需要怎么做?最重要需要支持以下三个功能:

  • 定位要调用的服务;
  • 把完整的消息切下来;
  • 让我们的消息向前/向后兼容;

这样既可以让消息内保证一定的灵活性,又可以方便拿下一块数据,去调用用户想要的服务。

我们用一个表格来看一下HTTP和RPC分别是怎么解决的:

定位要调用的服务

消息长度

消息前后兼容

HTTP

URL

header里Content-Length

body里自己解决

RPC

指定Service和Method名

协议header里自行约定

交给具体IDL

因此,大家都会需要类似的结构去组装一条完整的用户请求,而第三部分的body只要框架支持,RPC协议和HTTP是可以互通的!因此开发者完全可以根据自己的业务需求进行选型,接下来我们看一下RPC的层次架构,就可以明白为什么不同RPC框架之间的互通、以及RPC和HTTP协议又是如何做到互通的。

二、 RPC有什么

我们可以借SRPC的架构,看一下RPC框架从用户到系统都有哪些层次,以及SRPC目前所横向支持的功能是什么:

  • 用户代码(client的发送函数/server的函数实现)
  • IDL序列化(protobuf/thrift serialization)
  • 数据组织 (protobuf/thrift/json)
  • 压缩(none/gzip/zlib/snappy/lz4)
  • 协议 (Sogou-std/Baidu-std/Thrift-framed/TRPC)
  • 通信TCP/HTTP)

我们先关注以下三个层级:

如图从左到右,是用户接触的最多到最少的层次。IDL层会根据开发者定义的请求/回复结构进行代码生成,目前小伙伴们用得比较多的是protobuf和thrift,而刚才说到的用户接口和前后兼容问题,都是IDL层来解决的。SRPC对于这两个IDL的用户接口实现方式是:

  • thrift:IDL纯手工解析,用户使用srpc是不需要链thrift的库的 !!!
  • protobuf:service的定义部分纯手工解析

中间那列是具体的网络协议,而各RPC能互通,就是因为大家实现了对方的“语言”,因此可以协议互通。

而RPC作为和HTTP并列的层次,第二列和第三列理论上是可以两两结合的,只需要第二列的具体RPC协议在发送时,把HTTP相关的内容进行特化,不要按照自己的协议去发,而按照HTTP需要的形式去发,就可以实现RPC与HTTP互通。

三、 RPC的生命周期

到此我们可以通过SRPC看一下,把request通过method发送出去并处理response再回来的整件事情是怎么做的:

根据上图,可以更清楚地看到刚才提及的各个层级,其中压缩层、序列化层、协议层其实是互相解耦打通的,在SRPC代码上实现得非常统一,横向增加任何一种压缩算法或IDL或协议都不需要也不应该改动现有的代码,才是一个精美的架构~

我们一直在说生成代码,到底有什么用呢?图中可以得知,生成代码是衔接用户调用接口和框架代码的桥梁,这里以一个最简单的protobuf自定义协议为例:example.proto

代码语言:javascript
代码运行次数:0
运行
AI代码解释
复制
syntax = "proto3"; // 这里proto2和proto3都可以

message EchoRequest
{
    string message = 1;
};

message EchoResponse
{
    string message = 1;
};

service Example
{
    rpc Echo(EchoRequest) returns (EchoResponse);
};

我们定义好了请求、回复、远程服务的函数名,通过以下命令就可以生成出接口代码example.srpc.h

代码语言:javascript
代码运行次数:0
运行
AI代码解释
复制
protoc example.proto --cpp_out=./ --proto_path=./
srpc_generator protobuf ./example.proto ./

我们会发现,同时还会生成出server.pb_skeleton.ccclient.pb_skeleton.cc,这是为了方便开发者的两个空文件。我们继续一窥究竟,看看生成代码到底可以实现什么功能:

代码语言:javascript
代码运行次数:0
运行
AI代码解释
复制
// SERVER代码
class Service : public srpc::RPCService
{
public:
    // 用户需要自行派生实现这个函数,与刚才pb生成的是对应的
    virtual void Echo(EchoRequest *request, EchoResponse *response,
                      srpc::RPCContext *ctx) = 0;
};

// CLIENT代码
using EchoDone = std::function<void (EchoResponse *, srpc::RPCContext *)>;

class SRPCClient : public srpc::SRPCClient 
{
public:
    // 异步接口
    void Echo(const EchoRequest *req, EchoDone done);
    // 同步接口
    void Echo(const EchoRequest *req, EchoResponse *resp, srpc::RPCSyncContext *sync_ctx);
    // 半同步接口
    WFFuture<std::pair<EchoResponse, srpc::RPCSyncContext>> async_Echo(const EchoRequest *req);
};

作为一个高性能RPC框架,SRPC生成的client代码中包括了:同步半同步异步接口,文章开头展示的是一个同步接口的做法。

而server的接口就更简单了,作为一个服务端,我们要做的就是收到请求->处理逻辑->返回回复,而这个时候,框架已经把刚才提到的网络收发、解压缩、反序列化等都给做好了,然后通过生成代码调用到用户实现的派生service类的函数逻辑中。

由于一种协议定义了一种client/server,因此其实我们同样可以得到的server类型有第二部分提到过的若干种:SRPCServer/SRPCHttpServer/BRPCServer/TRPCServer/ThriftServer/...

四、 一个完整的server例子

最后我们用一个完整的server例子,来看一下用户调用接口的使用方式,以及如何跨协议使用HTTP作为client进行调用。刚才提到,srpc_generator在生成接口的同时,也会自动生成空的用户代码,我们这里打开server.pb_skeleton.cc直接改两行,即可run起来:

代码语言:javascript
代码运行次数:0
运行
AI代码解释
复制
#include "example.srpc.h"
#include "workflow/WFFacilities.h"

using namespace srpc;
static WFFacilities::WaitGroup wait_group(1);

void sig_handler(int signo)
{
    wait_group.done();
}

class ExampleServiceImpl : public Example::Service
{
public:

    void Echo(EchoRequest *request, EchoResponse *response, srpc::RPCContext *ctx) override
    {
        response->set_message("OK"); // 具体逻辑在这里添加,我们简单地回复一个OK
    }
};

int main()
{
    unsigned short port = 80; // 因为要启动Http服务
    SRPCHttpServer server; // 我们需要构造一个SRPCHttpServer

    ExampleServiceImpl example_impl;
    server.add_service(&example_impl);

    server.start(port);
    wait_group.wait();
    server.stop();
    return 0;
}

只要安装了srpc和workflow,linux下即可通过以下命令编译出可执行文件:

代码语言:javascript
代码运行次数:0
运行
AI代码解释
复制
g++ -o server server.pb_skeleton.cc example.pb.cc -std=c++11 -lsrpc

接下来是激动人心的时刻了,我们用人手一个的curl来发起一个HTTP请求:

代码语言:javascript
代码运行次数:0
运行
AI代码解释
复制
curl -i 127.0.0.1:80/Example/Echo -H 'Content-Type: application/json' -d '{message:"Hello World"}'

五、 解锁更多

通过这篇文章,相信我们可以清晰地了解到RPC的接口长什么样,也可以通过与HTTP协议互通来理解协议层次,更重要的是可以知道具体纵向的每个层次及横向对比我们常见的每种使用模式都有哪些。但其实,RPC还可以做的事情还有很多,包括内部各层次的解耦合设计、框架层的功能埋点、外部服务集群的对接等等:

如果小伙伴对更多功能感兴趣,欢迎点击阅读原文,到Github围观,进一步了解。

另外这个 rpc 项目是基于飞哥之前介绍过的 sogou workflow 项目的,参见峰值 QPS 50 万 +,性能优异的网络框架开源力作 Sogou Workflow

Github地址

  • srpc: https://github.com/sogou/srpc
  • workflow: https://github.com/sogou/workflow
本文参与 腾讯云自媒体同步曝光计划,分享自微信公众号。
原始发表:2022-03-23,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 开发内功修炼 微信公众号,前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体同步曝光计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
暂无评论
推荐阅读
编辑精选文章
换一批
1万行代码,单机50万QPS,今年最值得学习的开源RPC框架!
如果没有统一的RPC框架,各个团队的服务提供方就需要各自实现一套序列化、反序列化、网络框架、连接池、收发线程、超时处理、状态机等“业务之外”的重复技术劳动,造成整体的低效。
架构师之路
2021/11/30
1.1K0
1万行代码,单机50万QPS,今年最值得学习的开源RPC框架!
快速入门SRPC
最近给SRPC框架做了一个小工具:用于快速构建Workflow和SRPC项目的脚手架,旨在降低项目使用门槛,解决大部分零基础开发者第一次面对cmake文件编写、lib的依赖、编译与运行环境等容易遇到的问题。
1412
2023/10/25
4481
快速入门SRPC
RPC框架:从原理到选型,一文带你搞懂RPC
RPC系列的文章是我去年写的,当时写的比较散,现在重新进行整理。对于想学习RPC框架的同学,通过这篇文章,让你知其然并知其所以然,便于以后技术选型,下面是文章内容目录:
科控物联
2022/06/13
27.8K1
RPC框架:从原理到选型,一文带你搞懂RPC
brpc介绍、编译与使用
        brpc又称为baidu-rpc,是百度开发一款“远过程调用”网络框架。目前该项目已在github上开源——https://github.com/brpc/brpc。(转载请指明出于breaksoftware的csdn博客)
方亮
2019/01/16
7.4K0
全图文分析:如何利用Google的protobuf,来思考、设计、实现自己的RPC框架
Warning: 文章有点长,我主要是想在一篇文章中把相关的重点内容都讲完、讲透彻,请见谅。
IOT物联网小镇
2021/05/13
1.7K0
全图文分析:如何利用Google的protobuf,来思考、设计、实现自己的RPC框架
聊聊高性能 RPC框架 gRPC
RPC、gRPC、Thrift、HTTP,大家知道它们之间的联系和区别么?这些都是面试常考的问题,今天带大家先搞懂 RPC 和 gRPC。
码猿技术专栏
2023/05/01
1.8K0
聊聊高性能 RPC框架 gRPC
RPC基本原理_基本原理是什么意思
RPC非常重要,很多人面试的时候都挂在了这个地方!你要是还不懂RPC是什么?他的基本原理是什么?你一定要把下边的内容记起来!好好研究一下!特别是文中给出的一张关于RPC的基本流程图,重点中的重点,Dubbo RPC的基本执行流程就是他,RPC框架的基本原理也是他,别说我没告诉你!看了下边的内容你要掌握的内容如下,当然还有很多:
全栈程序员站长
2022/09/20
6400
RPC基本原理_基本原理是什么意思
Brpc学习:简单回显服务器/客户端
sudo apt-get install git g++ make libssl-dev sudo apt-get install realpath libgflags-dev libprotobuf-dev libprotoc-dev protobuf-compiler libleveldb-dev sudo apt-get install libsnappy-dev sudo apt-get install gperf sudo apt-get install libgoogle-perftools-
_gongluck
2018/03/08
12.3K0
Brpc学习:简单回显服务器/客户端
【译】基于python 的 RPC 框架比较: gRPC vs Thrift vs RPyC
那一年是2015年。我正在写一堆ML训练脚本以及几个生产脚本。他们都需要金融数据。数据分散在多个表和多个数据存储中。日内市场数据以不同方式存储在cassandra集群中,而每日/每月的数据则在MySQL数据库中。同样地,不同类型的证券(期货、期权、股票等)被存储在不同的位置。
goodspeed
2021/08/18
8.8K0
架构设计:系统间通信(10)——RPC的基本概念
http://blog.csdn.net/yinwenjie/article/details/49453303
bear_fish
2018/09/20
10.4K0
架构设计:系统间通信(10)——RPC的基本概念
grpc-go之基本使用(一)
gRPC 是一个高性能、通用的开源 RPC 框架,其由 Google 主要面向移动应用开发并基于 HTTP/2 协议标准而设计,基于 ProtoBuf(Protocol Buffers) 序列化协议开发,且支持众多开发语言。
Johns
2022/09/26
1.4K0
grpc-go 从使用到实现原理全解析!
本期将从rpc背景知识开始了解,如何安装进行开发前的环境准备,protobuf文件格式了解,客户端服务端案例分享等,逐渐深入了解如何使用grpc-go框架进行实践开发。
小许code
2023/10/08
1.6K0
grpc-go 从使用到实现原理全解析!
使用Grpc构建真实世界的微服务
当我们需要在跨语言之间进行通信的时候,我们可能需要规范一下传输数据(消息)的格式以满足我们的需求 ,当然GRPC的优势远不止这些,下面我们来慢慢的研究一下。。。。
公众号: 云原生生态圈
2021/11/15
1.3K0
使用Grpc构建真实世界的微服务
rpc与thrift简介
现如今都流行大前端开发,所谓的大前端就是,将后端的传统的MVC(model、view、controler)中的view和controler给接过来。 将view接过来这个没什么问题,最近的vue、react等框架,以前的静态html页面,ftl模板等都是干这种事情的,没什么好说。 但是,如果要将controler给接过来,就有些麻烦了。 最直接的问题就是需要搞定服务器内部服务之间的通讯
epoos
2022/06/06
6970
一文搞懂RPC
分布式服务化作为SOA的另一种选择,以不同方式把ESB的一些功能重做了一遍。 SOA/ESB:代理调用,直接增强。
JavaEdge
2022/11/30
1.9K0
一文搞懂RPC
Go语言入门篇-gRPC基于golang & java简单实现
server端stub又被称为skeleton(骨架)。可以理解为代理类。而实际上基于Java的RPC框架stub基本上也都是使用动态代理。
用户7798898
2020/09/27
1.5K0
Go语言入门篇-gRPC基于golang & java简单实现
golang实现RPC的几种方式
远程过程调用(Remote Procedure Call,缩写为 RPC)是一个计算机通信协议。该协议允许运行于一台计算机的程序调用另一台计算机的子程序,而程序员无需额外地为这个交互作用编程。如果涉及的软件采用面向对象编程,那么远程过程调用亦可称作远程调用或远程方法调用。
码农编程进阶笔记
2022/02/17
6560
golang实现RPC的几种方式
Java微服务RPC选型Dubbo还是SpringCloud?
国内最早开源的RPC框架,由阿里巴巴公司开发并于2011年末对外开源,仅支持Java
JavaEdge
2021/02/22
3.5K0
微服务架构下的服务发布和引用方案
服务提供者如何发布一个服务? 服务消费者如何引用这个服务? 具体来说,就是这个服务的接口名是什么? 调用这个服务需要传递哪些参数? 接口的返回值是什么类型?
JavaEdge
2021/02/23
4820
微服务架构下的服务发布和引用方案
【C++】开源:grpc远程过程调用(RPC)配置与使用
中文文档:https://doc.oschina.net/grpc?t=57966
DevFrank
2024/07/24
3970
相关推荐
1万行代码,单机50万QPS,今年最值得学习的开源RPC框架!
更多 >
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档
查看详情【社区公告】 技术创作特训营有奖征文
本文部分代码块支持一键运行,欢迎体验
本文部分代码块支持一键运行,欢迎体验