网关功能的介绍和结构
网关的作用分类
幂等性
接口重试框架
Pattern: API Gateway/Backends for Frontends
各种开源API网关的比较

网关功能的介绍和结构

http:https://microservices.io/
总结的微服务模式中，网关已经成为服务化中的一种标准模式。
http:https://microservices.io/patterns/apigateway.html

网关主要功能：统一接入、流量管控、协议适配、安全防护

网关生态主要包含控制台、网关核心、网关统计与监控：

控制台主要对API生命周期进行管理，以及ACL、流量管控等功能；
网关核心主要处理API调用，包含鉴权、限流、路由、协议转换等功能；
统计与监控模块主要完成API调用的统计以及对店铺、三方的一些报表统计，同时提供监控功能和报警功能

加密、签名、时间戳、Token、黑白名单
限流、熔断、隔离、降级、超时重试、幂等性验证
鉴权Token、路由、负载均衡、隔离、容灾切换
协议解析、数据解析、协议转换、数据封装
入参：服务编排、参数映射、参数校验、XSS/SQL注入等校验
出参：参数裁剪、参数泛华、模糊化、异常码格式化
沙箱测试、灰度
日志、调用链、统计、监控、告警

网关之限流、熔断、隔离、降级、超时重试、幂等性验证的相关知识简单整理
例如：鉴权、限流、ACL、降级等。
超时机制、重试机制、幂等
流量转发、跨域、统计、日志、
鉴权Token、签名校验、黑白名单（IP、Client应用）、路由、负载均衡、容灾切换
网关注册中心（控制台）
OA 鉴权中心
沙箱测试、灰度

制作网关项目的好处：
（1）网关层对外部和内部进行了隔离，保障了后台服务的安全性。
（2）对外访问控制由网络层面转换成了运维层面，减少变更的流程和错误成本
（3）减少客户端与服务的耦合，服务可以独立发展。通过网关层来做映射。
（4）通过网关层聚合，减少外部访问的频次，提升访问效率。
（5）节约后端服务开发成本，减少上线风险。
（6）为服务熔断，灰度发布，线上测试提供简单方案。
（7）便于扩展。

应用场景
假设服务A依赖服务B和服务C，而B服务和C服务有可能继续依赖其他的服务，继续下去会使得调用链路过长，技术上称1->N扇出。如果在A的链路上某个或几个被调用的子服务不可用或延迟较高，则会导致调用A服务的请求被堵住，堵住的请求会消耗占用掉系统的线程、io等资源，当该类请求越来越多，占用的计算机资源越来越多的时候，会导致系统瓶颈出现，造成其他的请求同样不可用，最终导致业务系统崩溃，又称：雪崩效应。

2.处理方式
降级：在服务器压力剧增的情况下，根据实际业务情况和流量，对一些服务和页面不处理或简单处理，从而释放服务器资源保证核心交易正常运作。
熔断：熔断一般是指软件系统中，由于某些原因使得服务出现了过载现象，为防止造成整个系统故障，从而采用的一种保护措施，所以很多地方把熔断亦称为过载保护。
限流：限制服务/接口访问的流量。可以从总量+速率进行处理
隔离：保证其中某个服务坏掉，不会影响到其他服务。线程池/信号量隔离模式
幂等性验证: 可能因为网络抖动或其他位置原因,服务端在短时间内可能会受到多笔相同的交易
超时机制：一种是请求的等待超时，一种是请求运行超时。

其中，降级、熔断、隔离属于出现问题后的处理机制。限流属于预防。

a. 降级处理

服务降级模式：屏蔽降级【直接关闭相关服务】、容错降级【根据异常进行返回处理】、业务降级【业务调整】、非降级【其他】；
服务降级措施：返回NULL、抛出指定异常、调用本地MOCK服务、自定义降级策略。

容错处理：DUBBO的容错策略
相关连接：http:https://dubbo.apache.org/zh-cn/docs/user/demos/fault-tolerent-strategy.html

网关主要功能

网关的四个技术方向：

1、统一接入，就是前端（包括 APP 或其他来源）的流量，都能在统一网络层进行接入。
这一层所面临的问题是：高性能透传、高并发接入、高可效性，以及当前端流量来了之后，怎样能够进行一个负载的服务往后端的转发。

2、流量管控，主要指流量治理部分。面对海量流量，我们怎样通过一些防刷技术，保障网关不被大流量冲垮；以及怎样通过一些像限流、降级、熔断等技术，对网关进行全方位保护。

3、协议适配，就是前文提到的，网关会透传后端上千个服务，而这些服务一定不是每一个都需要网关去开发配置的。
我们通过一个协议适配的转换，让后端的各种服务通过我们指定的协议、通过 HTTP 的方式从网关开放出去，当然网关不单单是 HTTP 协议，还有一些 TCP 的。

京东内部的协议相对比较统一，有 HTTP 的 restful 的协议，也有 JSF 的接口，JSF 是京东内部自研的一个框架，一个 RPC 调用框架，和 Double 是类似的，然后基于注册发现的一个 RPC 框架。

4、安全防护，这一部分对于网络来说非常重要，因为网关是整个公司对外的一个出口，在这一层我们要做一些防刷。
比如防清洗一些恶意流量、做一些黑名单，当有一些恶意流量的话，通过限制 IP 等限制手段把它拒绝在整个网关之外，防止这些恶意流量把网关冲垮。

自研网关架构
我们的自研网关架构主要分为三层：
1、接入层
主要负责一些长短链接的接入、限流、黑白名单、路由、负载均衡、容灾切换等。这一层所采用的技术是 Nginx+lua 的方式。

2、分发层
这一层是分发层或者叫网关的业务层，它更多的是 NIO+Serviet3 异步的技术。

3、泛化层中间有两块：
主动通知，就是我们会通过这种 TCP 的下行通道及时通知到客户端，发一些像京东账户优惠券或提醒等。
沙箱测试，主要是在一些接口发布上线之前，进行一个外部的测试。

我们的网关系统所涉及到的一些技术栈：
接入层 Nginx+lua 技术。
NIO+Serviet3 异步技术。
分离技术。
降级限流。
熔断技术。
缓存，哪些地方该加缓存，哪些地方可以直接读库。
异构数据。
快速失败。
监控统计，这是整个高可用网关系统里非常重要的一部分。

API Gateway: APIGateway 即API网关，所有请求首先会经过这个网关，然后到达后端服务，有点类似于Facade模式。API网关作为系统接口对外的统一出口，可以减少调用方对服务实现的感知。

参考
APIGateway 简介
 一文带你搞懂API网关

百亿流量微服务网关的设计与实现

https://www.deathearth.com/838.html
https://www.upyun.com/opentalk/335.html
https://juejin.im/post/5bda67f26fb9a0223e4da611
http:https://jm.taobao.org/2019/01/14/%E5%BE%AE%E6%9C%8D%E5%8A%A1%E7%94%9F%E6%80%81/

网关的作用分类

网关作为所有请求的流量入口，主要承担着安全，限流，熔断降级，监控，日志，风控，鉴权等功能，网关主要有两种类型

一种是接入层网关（access gateway），主要负责路由，WAF（防止SQL Injection, XSS, 路径遍历, 窃取敏感数据,CC攻击等），限流，日志，缓存等，这一层的网关主要承载着将请求路由到各个应用层网关的功能
另一种是应用层网关，比如现在流行的微服务，各个服务可能是用不同的语言写的，如 PHP，Java 等，那么接入层就要将请求路由到相应的应用层集群，再由相应的应用层网关进行鉴权等处理，处理完之后再调用相应的微服务进行处理，应用层网关也起着路由，超时，重试，熔断等功能。

Web应用防护系统（也称为：网站应用级入侵防御系统。英文：Web Application Firewall，简称： WAF）。利用国际上公认的一种说法：Web应用防火墙是通过执行一系列针对HTTP/HTTPS的安全策略来专门为Web应用提供保护的一款产品。

幂等性

幂等（idempotent、idempotence）是一个数学与计算机学概念，常见于抽象代数中。
在编程中.一个幂等操作的特点是其任意多次执行所产生的影响均与一次执行的影响相同。
幂等函数，或幂等方法，是指可以使用相同参数重复执行，并能获得相同结果的函数。这些函数不会影响系统状态，也不用担心重复执行会对系统造成改变。

原因：
由于重复点击或者网络重发、重试，或者nginx重发等情况会导致数据被重复提交
重复性则是幂等的时候需要重点考虑的

解决方案：
服务的调用方和服务的提供方幂等键要保证一致，唯一性，并且不变性；

高并发下接口幂等性解决方案

接口重试框架

如何实现优雅的重试：两款工具 1、Guava-retrying ：Guava-retrying是基于谷歌的核心类库Guava的重试机制实现。 2、Spring-retry ：Spring Retry则看起来更舒服了

再谈优雅重试（retry）机制
 重试组件

Pattern: API Gateway/Backends for Frontends

API Gateway/Backend for Front-End 作为一种目前非常流行并且经过验证的 Pattern，不论是在 Netflix/Amazon 还是 BAT 都得到了广泛的应用。
在 Microservice architecture pattern 大行其道的当下，API Gateway 的建设显得尤为重要