# 背景介绍

先看一张图，页面一共调用了20多个后端接口，页面出现了明显的卡顿，而且每6个请求一组，只有前一组返回后才执行下一组。看到请求是pending状态，很容易以为是后端接口的问题，有经验的同学可能一眼看出这是浏览器的并发限制导致的，而非后端接口问题。

主流浏览器一般对同一个服务器的并发连接个数都是有限制的,

浏览器为什么要请求并发数限制？

1.对操作系统端口资源考虑 PC总端口数为65536，那么一个TCP（http也是tcp）链接就占用一个端口。操作系统通常会对总端口一半开放对外请求，以防端口数量不被迅速消耗殆尽。

2.过多并发导致频繁切换产生性能问题 一个线程对应处理一个http请求，那么如果并发数量巨大的话会导致线程频繁切换。而线程的上下文切换有时候并不是轻量级的资源。这导致得不偿失，所以请求控制器里面会产生一个链接池，以复用之前的链接。所以我们可以看作同域名下链接池最大为4～8个，如果链接池全部被使用会阻塞后面请求任务，等待有空闲链接时执行后续任务。

3.避免同一客服端并发大量请求超过服务端的并发阈值 在服务端通常都对同一个客户端来源设置并发阀值避免恶意攻击，如果浏览器不对同一域名做并发限制可能会导致超过服务端的并发阀值被BAN掉。

4.客户端良知机制 为了防止两个应用抢占资源时候导致强势一方无限制的获取资源导致弱势一方永远阻塞状态。

# 服务编排适用场景

服务编排主要基于现有的业务微服务使用在线配置的方式快速的生成一个聚合接口。

举例说明：

订单详情页面需要展示订单信息、商品信息和用户信息。可通过配置的方式生成一个接口先后调用底层微服务的订单详情接口、商品信息接口和用户信息接口，再从这3个接口的返回结果里提取需要的字段返回给前端页面。

FizzGate集成平台的服务编排的适用场景：

# 前端场景

1、一个页面调用多个接口时，可以编排好返回聚合结果，提高页面数据的加载速度

2、移动设备计算能力有限，可以把数据计算或业务处理逻辑放到服务端完成，加快页面响应

# 后端场景

1、替换应用层的聚合接口，减少应用层的胶水代码

2、快速生成透传数据类型的接口

3、数据转换和映射

# 快速聚合接口

上面问题可通过FizzGate集成平台的服务编排的聚合功能解决，简单说就是把前端页面要调用的多个接口改为由FizzGate集成平台调用，然后把各接口的结果聚合后返回给前端。这样前端只需调用一个简单的聚合接口就可以了。

# 资料准备

# FizzGate集成平台安装

可参考： https://www.fizzgate.com/fizz/guide/installation (opens new window)

# echo接口

后端接口通过一个延时的echo接口模拟，模拟前端页面调用10个接口

http://127.0.0.1:8080/echo?latency=1000&echo=接口1

http://127.0.0.1:8080/echo?latency=1000&echo=接口2

...

http://127.0.0.1:8080/echo?latency=1000&echo=接口10

echo接口源码：fizz-examples-rest-api (opens new window)

# 聚合接口

  • 聚合接口路径：/fast-aggr/aggregate

  • 请求方法：POST

  • 入参格式：(格式可根据需要自行调整)

{
	"params1": {
		"latency": 1000, 
		"echo": "接口1"
	},
	"params2": {
		"latency": 1000, 
		"echo": "接口2"
	},
	// ... 省略
	"params10": {
		"latency": 1000, 
		"echo": "接口10"
	}
}
  • 返回结果：(格式可根据需要自行调整)
{
	"result1": "接口1",
	"result2": "接口2",
	// ... 省略
	"result3": "接口10"
}

# 新增接口

菜单位置：服务编辑->接口列表，点击新增

# 配置输入

在配置输入tab可以定义接口的入参和请求头等信息，如果不配置入参或请求头，网关会原样接收调用方传过来的所有入参或请求头，但不会对接收到的参数做任何校验。在本例子中我们使用约定的入参格式，就不定义入参数了，全留空。

# 配置步骤

因为要并发调用10个接口，只需新增1个步骤，然后在步骤里新增10个request, 服务选择我们预先准备好的fizz-examples-rest-api服务。入参我们使用*星号来透传前端传过来的参数，在这里使用了引用值的方式来引用入参，相关引用值的使用方式可参考文档：数据转换使用文档 (opens new window) 。配置响应部分留空，网关会原样接收接口的返回结果。 按此方式我们分别配置好10个接口。

# 配置输出

配置要返回给前端的响应报文，这里直接引用步骤里的结果

# 测试

配置完接口后，点击测试

# 访问正式接口

接口配置好后需要发布并配置路由才可以对公网开放。菜单：编排审核-->我的申请，点击新增提交发布申请单。审核通过后即可发布。

发布后配置路由，菜单：网关管理-->路由管理

正式接口访问URL: http://[网关IP]:8600/proxy/fast-aggr/aggregate

前端页面由原来调用多个接口改为调用一个聚合接口即可，大大降低了网络IO带来的延时，提高页面访问速度。

← 服务编排 →