服务化框架技术选型

|服务化框架构成

最基本的服务框架

基本的服务化框架包括如下模块:统一的RPC框架,服务注册中心,管理平台。

 

有了这三个模块,就能实现基本的服务化。下面对三个模块进行具体分析。

 

RPC框架选型

为什么一定要是统一的RPC框架,而不是随便啥框架,这里主要是为了技术对齐,减少开发人员的学习成本,减少团队间沟通成本。

 

好,那么选择一个RPC框架,我们都需要考量什么东西呢?

 

这里我总结下:

  • 代码规范:例如是对已有代码透明,还是代码生成;

  • 通讯协议:例如是TCP还是HTTP;

  • 序列化协议:例如是二进制还是文本,是否需要跨语言,性能;

  • IO模型:异步/同步,阻塞/非阻塞;

  • 负载均衡:客户端软负载,代理模式,服务端负载。

     

另外如果是从开源里面选择,那么我们还需要考量:

  • 成熟度:包括学习成本,社区热度,文档数,是否有团队维护,稳定性(盲目追求的不一定是最适合);

  • 可扩展性:是否有SPI支持扩展,是否支持上下兼容;

  • 跨语言:是否支持跨语言;

  • 性能:要想作为RPC框架,性能一般都不会太差 [滑稽脸]。

 

下面是常见的一些开源框架的比较,大家可以看一下。

 

thrift

RESTful

dubbo

gRPC

代码规范

基于Thrift的IDL生成代码

基于JAX-RS规范

无代码入侵

基于.Proto生成代码

通讯协议

TCP

HTTP

TCP

HTTP/2

序列化协议

thrift

JSON

多协议支持,默认hessian

protobuf

IO框架

Thrift自带

Servlet容器

Netty3

Netty4

负载均衡

客户端软负载

跨语言

多种语言

多种语言

Java

多种语言

可扩展性

一般

Ps:SOAP,RMI,Hessian,ICE就不列举了。

 

选型小结:

  • 如果需要与前端交互的,适合短链接、跨语言的RPC框架,例如RESTful、gRPC等;

  • 如果纯粹后台交互的,适合长链接、序列化为二进制的RPC框架,例如thrift、dubbo等更高效;

  • 如果是小公司,新公司从头开始推广服务化框架的,可以选择规范化的RPC框架,例如thrift、RESTful、gRPC;

  • 如果是已有大量业务代码的再推广服务框架的,那么最好选择无代码入侵的RPC框架,例如dubbo、RESTful。

 

注册中心选型

注册中心相当于是服务提供者和服务调用者之间的引路人,在服务治理中的作用极为重要。

 

选择注册中心基本要考量:

  • 服务注册:接收注册信息的方式;

  • 服务订阅:返回订阅信息的方式,推还是拉;

  • 状态检测:检测服务端存活状态。

 

重点提一下这个状态检测,因为这个要是检测不准确会误判,导致严重后果,例如Zookeeper根据服务端注册的临时节点进行状态检测,如果服务端和Zookeeper之间的网络闪断,导致Zookeeper认为服务端已经死了,从而摘掉这个节点;但是其实客户端和服务端直接的网络是好的,这样就有可能把节点全部摘掉,导致无可用节点。

 

如果是从开源里面选择,那么还需要考量:

  • 成熟度:包括学习成本,社区热度,文档数(盲目追求的不一定是最适合);

  • 维护成本:注册中心维护;

  • 数据解构:是否能快速定位结果,是否能遍历;

  • 性能和稳定性;

  • CAP原则:CP(关注一致性)还是AP(关注可用性)。

 

下面是常见的一些使用开源项目做注册中心的比较,大家可以看一下。

 

ZooKeeper

etcd

Consul

Eureka

一致性

强一致性paxos

强一致性Raft

强一致性Raft

弱一致性

数据结构

Tree

K/V

K/V

K/V

通讯协议

TCP

HTTP、gRPC

HTTP、DNS

HTTP

客户端

ZKClient

/

/

Eureka-client

CAP原则

CP

CP

CP

AP

Ps:Redis和MySQL没有列举。

 

选型小结:

  • 规模小选择CP,RPC框架可以直接接入数据源;

  • 规模大选择AP, RPC框架不可以直接接入数据源;

  • 存在跨机房,跨地域的尽量不要选有强一致性协议的注册中心;

  • RPC框架必须要有注册中心不可用的容灾策略;

  • 服务状态检测十分重要。

 

简易管理端

管理端没啥特殊要求,最起码能看到服务提供者和调用者即可。

 

|完善的服务化框架

如果需要一个完善的服务化框架,那么必须增加外部模块,常见的模块如下图:

 

接口文档管理

提供一个接口文档管理以及接口查询的入口,可以是一个公共的WIKI,也可以是独立的系统,等等。

 

这里可以定义接口的文档,包括接口描述,方法定义,字段定义。可以定义接口的SLA,包括支持的并发数,tp99多少,建议配置是什么。还有就是接口的负责人等一些查询的入口。

 

配置中心

提供一个配置管理的地方,这里说的配置主要指的是服务相关的一些配置。

配置包括分组配置、路由策略、黑白名单、降级开关、限流信息、超时时间、重试次数等等,任何可以动态变更的所有数据。

 

这样服务提供者和服务调用者可以不需要重启自己的应用,直接进行配置的变更。

 

配置中心可以独立于注册中心,也可以和注册中心合并。

 

监控中心

监控服务关注接口维度,实例(例如所在JVM实例)维度的数据。RPC框架可以定时上报调用次数,耗时,异常等信息。监控中心可以统计出服务质量信息,也可以进行监控报警。

 

分布式跟踪

区别于监控中心,以调用链的模式对服务进行。RPC框架作为分布式跟踪系统的一个天然埋点,可以很好的进行一个数据输出。

 

服务治理(重点)

我这边列了常见的服务治理功能,例如:

    • 服务路由:

  1. 权重:例如机器配置高的权重高,机器配置低的权重低;

  2. IP路由:例如某几台机器只能调某几台机器;

  3. 分组路由:例如自动根据配置调某个分组;

  4. 参数路由:例如根据方法名进行读写分类,或者根据参数走不同的节点;

  5. 机房路由:例如只走同机房,或者同机房优先。

  • 调用授权:

    • 应用授权:只有授权后的应用才能调这组服务

    • token:只有token对的调这组服务

    • 黑白名单:只有名单允许的才能调这组服务

  • 动态分组:

    1. 服务端切分组:可以根据分组的情况,对服务提供者进行一个动态的分组调度;

    2. 客户端切分组:可以对调用者进行一个分组调度。

  • 调用限流:

    1. 服务端限流:服务端基于令牌桶或者漏桶模型进行限流;

    2. 客户端限流:根据客户端的标识,进行调用次数限流。

  • 灰度部署:

    1. 灰度上线:先启动,验证后在提供服务;

    2. 预发标识:表示该服务为预发布服务;

    3. 接口测试:方便的提供接口自动化功能测试功能。

  • 配置下发:

    1. 服务配置;

    2. 全局配置。

  • 服务降级:

    1. Mock:出现异常或者测试情况下,返回Mock数据;

    2. 熔断:客户端超时或者服务端超时;

    3. 拒绝服务:服务端压力大时,自动拒绝服务,保护自己。

     

    网关

    RPC框架大部分场景都是自己调用的,什么时候会需要一个网关呢?

     

    网关可以提供如下功能:

    • 统一的鉴权服务;

    • 限流服务;

    • 协议转换:外部协议转统一内部协议;

    • Mock:服务测试,降级等;

    • 其它一些统一处理逻辑(例如请求解析,响应包装)。

     

    服务注册中心Plus

    需要逻辑处理能力,例如对数据进行筛选过滤整合,计算服务路由等功能

    同时还需要有与RPC框架交互的功能。

     

    管理端Plus

    管理端除了之前的简单服务管理功能外,还需要提供配置信息展示,监控信息展示,各种维度的数据展示。也就是下面提到的服务治理功能,都可以在管理端进行管理。另外,常见的服务治理功能,我们都可以作为开放服务供开发人员进行一个调用。

    http://mp.weixin.qq.com/s?__biz=MzIwODA4NjMwNA==&mid=2652898121&idx=1&sn=5463a399a324cd48114a85b0bc0e984f&chksm=8cdcd706bbab5e10707e1be071f24a1338e000c9e796a40f66716a205df2ac69868eea66d763&mpshare=1&scene=23&srcid=12220hyf5Y3Hp84IjQUnQsmP#rd

    猜你喜欢

    转载自m635674608.iteye.com/blog/2346859
    今日推荐