Skip to content

skyformat99/gayrpc

Folders and files

NameName
Last commit message
Last commit date

Latest commit

 

History

2 Commits
 
 
 
 
 
 
 
 
 
 
 
 
 
 

Repository files navigation

gayrpc

基于Protobuf协议的跨平台(Linux和Windows)全双工双向(异步)RPC系统,也即通信两端都可以同时作为服务方和客户端,彼此均可请求对方的服务.

动机

  1. 目前的RPC系统大多用于互联网行业后端系统,他们之间更像一个单向图,但游戏等行业中很常见两个节点之间互相主动请求数据。 因此我们需要一个全双工RPC,在一个“链接”(虚拟概念,不一定基于TCP,且两者之间只存在逻辑链接而没有网络直连)的两端都可以开启服务或到对端的客户端。
  2. 因为目前很多RPC系统都不是C++写的,而我常用语言是C++,且觉得目前版本C++的开发效率和细节控制非常不错,决定写一个试试。
  3. 有朋友觉得我之前基于C++泛型开发的RPC必定没法做得太强大,因此改为gayrpc这种基于代码生成来做,试试看。

设计准则

  1. RPC支持拦截器,能够对Request或Response做一些处理(比如监控、认证、加解密)
  2. RPC核心不依赖网络和网络传输协议,即:我们可以开发任何网络应用和逻辑来开启RPC两端,将“收到”的消息丢给RPC核心,并通过某个出站拦截器来实现/决定把Request或Response以何种方式传递给谁。
  3. 此RPC是基于异步回调的,我认为这是目前C++里比较安全和靠谱的方式,除了回调地狱让人恶心……,不过可以通过将Lambda抽离出来而不是嵌套稍微好看点吧?
  4. RPC系统核心(以及接口)是线程安全的,可以在任意线程调用RPC;且可以在任意线程使用XXXReply::PTR对象返回Response。
  5. RPC是并行的,也即:客户端可以随意发送Request而不必等待之前的完成。 且允许先收到后发出的Request的Response。或许这会让某些业务编写困难,又会陷入回调地狱……
  6. RPC系统会为每一个“链接”生成一个XXXService对象,这样可以让不同的“链接”绑定/持有各自的业务对象(session),这点可以在下面的服务范例中看到。(而不是像grpc等系统那样,一个服务只存在一个service,而RPC调用则是类似短链接:收到请求返回数据即可)

依赖

Windows下可使用 vcpkg 进行安装以下依赖库.

请注意,当使用Windows时,务必使用vcpkg install brynet --head安装brynet.
且务必根据自身系统中的protoc版本对meta.proto和gayrpc_option.proto预先生成代码,请在core_proto 目录里执行:

 protoc --cpp_out=../include meta.proto gayrpc_option.proto

代码生成工具

地址:https://github.com/IronsDu/protoc-gen-gayrpc,由liuhan编写完成。
首先将插件程序放到系统 PATH路径下(比如Linux下的/usr/bin),然后执行代码生成,比如(在具体的服务目录里,比如gayrpc/examples/echo/pb):

 protoc  -I. -I../../../core_proto --cpp_out=. echo_service.proto
 protoc  -I. -I../../../core_proto --gayrpc_out=. echo_service.proto

Benchmark

connection num:5000
took 20349ms, for 2000000 requests
throughput  (TPS):100000
mean:46 ms ,46509491 ns
median:42 ms ,42219427 ns
max:336 ms ,336657507 ns
min:0 ms ,21056 ns
p99:45 ms ,45382276 ns

协议

目前RPC通信协议底层采用两层协议. 第一层采用二进制协议,且字节序统一为大端. 通信格式如下:

[data_len | op | data]
字段解释:
data_len : uint64_t;
op       : uint32_t;
data     : char[data_len];

op值为1时表示RPC消息,此为第二层协议!这时第一层协议中的data的内存布局则为:

[meta_size | data_size | meta | data]
字段解释:
meta_size  : uint32_t;
data_size  : uint64_t;
meta       : char[meta_size];
data       : char[data_size];

其中metaRpcMata的binary.data为某业务上的Protobuf Request或Response类型对象的binary或JSON.

RpcMata的proto定义如下:

syntax = "proto3";

message RpcMeta {
    enum Type {
        REQUEST = 0;
        RESPONSE = 1;
    };

    enum DataEncodingType {
        BINARY = 0;
        JSON = 1;
    };

    message Request {
        // 请求的服务函数
        uint64  method = 1;
        // 请求方是否期待服务方返回response
        bool    expect_response = 2;
        // 请求方的序号ID
        uint64  sequence_id = 3;
    };

    message Response {
        // 请求方的序号ID
        uint64  sequence_id = 1;
        // 执行是否成功
        bool    failed = 2;
        // (当failed为true)错误码
        int32   error_code = 3;
        // (当failed为true)错误原因
        string  reason = 4;
    };
    
    // Rpc类型(请求、回应)
    Type    type = 1;
    // RpcData的编码方式
    DataEncodingType encoding = 2;
    // 请求元信息
    Request request_info = 3;
    // 回应元信息
    Response response_info = 4;
}

服务描述文件范例

以下面的服务定义为例:

syntax = "proto3";

package dodo.test;

message EchoRequest {
    string message = 1;
}

message EchoResponse {
    string message = 1;
}

service EchoServer {
    rpc Echo(EchoRequest) returns(EchoResponse){
        option (message_id)= 1 ;//设定消息ID,也就是rpc协议中request_info的method
    };
}

处理请求或Response的实现原理

  1. 编写第一层通信协议的编解码
  2. 将第一层中的data作为第二层协议数据,反序列化其中的meta作为RpcMeta对象
  3. 判断RpcMata中的type
    1. 如果为REQUEST则根据request_info中的元信息调用method所对应的服务函数. 此时第二层协议中的data则为服务函数的请求请求对象(比如EchoRequest).
    2. 如果为RESPONSE则根据response_info中的元信息调用sequence_id对应的回调函数. 此时第二层协议中的data则为服务方返回的Response(比如EchoResponse)

发送请求的实现原理

client->echo(echoRequest, responseCallback)为例 参考代码:GayRpcClient.h

  1. 客户端分配 sequence_id,以它为key将 responseCallback保存起来.
  2. 将echoRequest序列化为binary作为第二层协议中的data
  3. 构造RpcMeta对象,将echo函数对应的id号作为request_info的method,并设置sequence_id.
  4. 将RpcMeta对象的binary作为第二层协议中的meta
  5. 用第二层协议的数据写入第一层协议进行发送给服务端.

发送Response的实现原理

replyObj->reply(echoResponse)为例 参考代码:GayRpcReply.h

  1. 首先replyObj里(拷贝)储存了来自于请求中的RpcMata对象.
  2. 将echoResponse序列化为binary作为第二层协议中的data
  3. 构造RpcMeta对象,将备份的RpcMeta对象中的sequence_id设置到前者中response_info的sequence_id.
  4. 将RpcMeta对象的binary作为第二层协议中的meta
  5. 用第二层协议的数据写入第一层协议进行发送给服务端.

编解码参考

  • 对于发送请求或Response都可以走出站拦截器,用于统一的发送消息,最终的序列化参考代码: UtilsDataHandler.h
  • 对于接收请求或Response在编解码之后都可以交给入站拦截器,解码参考代码: OpPacket.h

注意点

  • 通信协议的第一层并不是重点,RPC核心在实现上尽量不要依赖它(目前的第一层协议只是某一种范例)
  • 同样,RPC核心并不依赖通信采用的传输协议,可以是TCP也可以是UDP或者WebSocket
  • RPC服务方的reply顺序与客户端的调用顺序无关,也就是可能后发起的请求先得到返回.
  • 目前RPC系统没有提供超时控制

About

Full Duplex C++ RPC Library,

Resources

License

Stars

Watchers

Forks

Releases

No releases published

Packages

No packages published