likes
comments
collection
share

前端高并发请求该怎么做?手摸手做实践一步步循序渐进式实现,超详细教学,搞懂每种方案优劣,假设场景:需要发送100个请求,

作者站长头像
站长
· 阅读数 17

相信大家或多或少都遇到过前端高并发的场景,需要发送大量的http请求,如果直接将所有的请求都放入浏览器queue中排队的话,势必会造成浏览器卡顿或者崩溃,这时候就需要一种机制来做控制。

转载请联系作者授权,并注明出处!

模拟实现

假设场景:需要发送100个请求,每个请求的时间不固定。

1、简单的前端请求

const fetchData = () => {
    fetch('http://127.0.0.1:3000').then(res => {
        return res
    })
}

for (let i = 0; i < 100; i++) {
    fetchData()
}

2、简单启动个服务

const http = require('http')

const server = http.createServer((req, res) => {
    // 简单cors
    res.writeHead(200, {
        'Content-Type': 'text/plain',
        'Access-Control-Allow-Origin': '*' 
    })
    // 0~1s 随机时间
    setTimeout(() => {
        res.end('Hello World!')
    }, Math.random() * 1000)
})

server.listen(3000, () => {
    console.log('Server is running on port 3000');
})
正常不做控制

发动机点火!!!

前端高并发请求该怎么做?手摸手做实践一步步循序渐进式实现,超详细教学,搞懂每种方案优劣,假设场景:需要发送100个请求,

可以看到后面的请求 Stalled 时间比较长了,已经达到8秒,说明有大量的请求在queue中排队等待sent,会阻塞后续一些重要的请求,可能导致超时失败等问题。由于我们模拟请求数量不多且接口数据量小,所以浏览器并没有出现崩溃的情况,如果数量和数据量上去了,卡顿或崩溃的情况势必会发生!

串行控制
1、逐条发送

稍微改造一下前端代码

const fetchData = async () => {
    await fetch('http://127.0.0.1:3000').then(res => {
        return res
    })
}

const sent = async () => {
    for (let i = 0; i < 100; i++) {
        await fetchData()
    }
}

启动~~~

前端高并发请求该怎么做?手摸手做实践一步步循序渐进式实现,超详细教学,搞懂每种方案优劣,假设场景:需要发送100个请求,

从图中可以看出请求是一条发送完成才会接着下一条发送,上面的时间看板显示请求是在一条线上的,因为用了keep-alive,复用同一条TCP链接,超长的 stalled 已经不存在了,但是这么请求的效率显然太慢了。

2、分组发送

将五个请求分为一组,一组接着一组串行发送。这个“五”是怎么怎么得出来的呢,chrome默认限制同时最多开启六条TCP链接,所以我将其分为五条一组,留一条处理别的请求。

改造一下请求代码

const sent = async () => {
    for (let i = 0; i < 100; i+= 5) {
        // 分组执行
        const exec = [
            fetchData(i),
            fetchData(i + 1),
            fetchData(i + 2),
            fetchData(i + 3),
            fetchData(i + 4)
        ]
        await Promise.all(exec)
    }
}

再次启动~~~

前端高并发请求该怎么做?手摸手做实践一步步循序渐进式实现,超详细教学,搞懂每种方案优劣,假设场景:需要发送100个请求,

可以看出请求确实是按照五条一组的方式进行发送了,速度也比之前逐条发送快了不少,但是从时间看板上显示一组中有些请求快有些请求慢,需要等到最慢的请求完成了才会发送下一组。

前端高并发请求该怎么做?手摸手做实践一步步循序渐进式实现,超详细教学,搞懂每种方案优劣,假设场景:需要发送100个请求,

如图中所示,如果每组中画红框这些时间也能利用起来,并发请求效率又将上升一个层级。

并发控制

我们能不能像控制一个执行队列一样,控制队列中执行数量也就是队列长度,每当有一条执行完成时出队,同时入队下一条,从而充分利用开启的每一条TCP链接。

我们将使用一个叫 p-limit 的库,源码行数不多,感兴趣的可以去看看,核心思路跟我们说的维护一个执行队列差不多。

安装

npm install p-limit

改造一下请求代码

import PLimit from 'p-limit'

// 限制五条并发
const pLimit = PLimit(5)

const execList = []

const sent = async () => {
    for (let i = 0; i < 100; i++) {
        execList.push(pLimit(fetchData))
    }
    await Promise.all(execList)
}

跑来起验证效果~~~~

前端高并发请求该怎么做?手摸手做实践一步步循序渐进式实现,超详细教学,搞懂每种方案优劣,假设场景:需要发送100个请求,

至此达到我们最终想要的效果,一个可控的并发请求,即能控制并发数也不会出现超长的 stalled 阻塞后续请求。

总结

1、高并发请求不做限制时,会导致后续请求阻塞,甚至浏览器卡顿或崩溃

2、串行逐条发送,并发请求慢,整体耗时太长

3、串行五条一组发送,还可以进一步提升,更高效的利用TCP链接空闲时间

4、并发控制,目前较好的处理方式

如果大家有更好的方式的话可以分享出来!

开源自荐

去年趁着找工作那段时间做了个开源的低代码平台,初衷是打算只做低代码核心功能的实现,不会夹杂太多的业务功能,这样代码量少结构清晰,也方便新手学习。(笑死,记得当时为了推广,还去B站做了三次直播分享)

新入职快满一年,期间很少维护这个项目,因为从组件开发到H5预览发布这一些核心功能都已经打通,还买了服务器域名部署(服务器刚过期了,一年间预计有1W人次访问吧),再往下迭代的话就是反复堆一些业务功能。如果没有新的方向的话,没有继续迭代的意义。

最近发现一些比较有意思的技术方向,如果可行的话会往里加

1、组件远程加载(之前一直觉得我项目里的组件在线打包很牛,其实远程加载才是更优解)

2、解析设计稿生成页面应用,这个得好好说道说道了,低代码平台一般是通过组件物料等拼成应用,但是组件物料哪来啊,都需要一个个去开发,如果设计稿不光能解析成应用,还能把应用里的组件保存到平台,这样别的应用也能使用这个组件。由组件搭成应用,应用还能产组件,达到了一定的循环,想想就觉得有趣!

3、低代码搭建视频(看似灵活度不高视频内容受限,但专注于某个领域的话却是很有效的)

开源仓库地址: mobile-maker,github仓库地址

如果可以的话,请帮忙点个star

转载自:https://juejin.cn/post/7276026646254092323
评论
请登录