接口限流方案
前言
今天看技术文章时看到一篇文章在讨论接口限流问题,觉得业务场景经常会使用到,就思考了一下如果是我会怎么实现?常用方案就是计数器限流方案、时间窗口限流方案和令牌桶限流方案等。这些方案的概念大致也知道,但是实际上也没有实现过,于是就自己试试实现逻辑,先动手再说。
场景
假设我们的场景是:
接口10秒内最多请求3次
思路
我想到的实现思路是有点时间窗口方案的样子,大致就是缓存请求时间,然后在每次请求的时候去校验10秒内是否超过3次请求。
图示
假设下面是请求的时间(单位:秒),那么前三次都可以请求成功,一个大小为3的数组缓存数据cache就是红框
所示:
接下去的第四个请求、第五个请求和第一个缓存时间对比,发现都小于10秒,则请求不通过。
第六个请求时间和第一个请求时间对比,时间大于10秒,所以请求通过,然后更新缓存数据cache,缓存的第一个数据改为第二个请求时间,缓存第二个数据改为第三个请求时间,缓存第三个数据改为第6个请求时间,如下图蓝框
所示,依次类推校验每次请求是否符合场景要求。
实现
- 声明一个数组cache(数组大小可以为最大请求次数3),储存请求时间;
因为我们要对比请求时间,所以讲请求缓存下来可以节省查数据库的时间。因为场景说明限制3次,所以我们只需要知道最后3个请求的时间就可以完成校验,之前的数据可以忽略。
- 首先是初始化情况,当请求小于3的时候,请求直接通过,并缓存当前请求时间;
- 当请求大于等于3的时候,判断当前请求时间和倒数第三次请求(cache[0]的数据)的间隔时间是否超过10秒,如果是则通过,否则通过。
通过的时候,要更新缓存数据,将数据前移,这次请求时间就是最后一次请求时间。
// 更新缓存
cache.set(0, cache.get(1));
cache.set(1, cache.get(2));
cache.set(2, now);
- 最后执行下代码验证下结果
完整代码如下所示:
package demo;
import cn.hutool.core.date.DateUtil;
import lombok.SneakyThrows;
import lombok.val;
import java.util.ArrayList;
import java.util.Date;
import java.util.List;
import java.util.Random;
/**
* 限流示例,每分钟只能请求3次
*/
public class LimitFlowDemo {
// 记录最后3次请求时间
List<Long> cache = new ArrayList<>();
int limitTime = 10;
public boolean validate() {
boolean res = false;
val now = DateUtil.currentSeconds();
System.out.println("当前时间:" + DateUtil.format(new Date(now * 1000), "HH:mm:ss"));
if (cache.size() < 3) {
res = true;
cache.add(now);
} else if(now - cache.get(0) > limitTime){
res = true;
// 更新缓存
cache.set(0, cache.get(1));
cache.set(1, cache.get(2));
cache.set(2, now);
}
System.out.println("请求结果:" + res);
return res;
}
@SneakyThrows
public static void main(String[] args) {
Random rd = new Random();
LimitFlowDemo demo = new LimitFlowDemo();
for (int i = 0; i < 1000; i++) {
demo.validate();
// Thread.sleep(rd.nextInt(3000));
Thread.sleep(500);
}
}
}
THE END
转载自:https://juejin.cn/post/7239148708700323896