java

关注公众号 jb51net

关闭
首页 > 软件编程 > java > Java接口限流

Java中实现接口限流的方案详解

作者:iiopsd

常用的接口限流方案就是计数器限流方案、时间窗口限流方案和令牌桶限流方案等,这些方案的概念大致也知道,但是实际上也没有实现过,所以本文就来自动动手实践一下吧

前言

今天看技术文章时看到一篇文章在讨论接口限流问题,觉得业务场景经常会使用到,就思考了一下如果是我会怎么实现?常用方案就是计数器限流方案、时间窗口限流方案和令牌桶限流方案等。这些方案的概念大致也知道,但是实际上也没有实现过,于是就自己试试实现逻辑,先动手再说。

场景

假设我们的场景是:

接口10秒内最多请求3次

思路

我想到的实现思路是有点时间窗口方案的样子,大致就是缓存请求时间,然后在每次请求的时候去校验10秒内是否超过3次请求。

图示

假设下面是请求的时间(单位:秒),那么前三次都可以请求成功,一个大小为3的数组缓存数据cache就是红框所示:

接下去的第四个请求、第五个请求和第一个缓存时间对比,发现都小于10秒,则请求不通过。

第六个请求时间和第一个请求时间对比,时间大于10秒,所以请求通过,然后更新缓存数据cache,缓存的第一个数据改为第二个请求时间,缓存第二个数据改为第三个请求时间,缓存第三个数据改为第6个请求时间,如下图蓝框所示,依次类推校验每次请求是否符合场景要求。

实现

1.声明一个数组cache(数组大小可以为最大请求次数3),储存请求时间;

因为我们要对比请求时间,所以讲请求缓存下来可以节省查数据库的时间。因为场景说明限制3次,所以我们只需要知道最后3个请求的时间就可以完成校验,之前的数据可以忽略。

2.首先是初始化情况,当请求小于3的时候,请求直接通过,并缓存当前请求时间;

3.当请求大于等于3的时候,判断当前请求时间和倒数第三次请求(cache[0]的数据)的间隔时间是否超过10秒,如果是则通过,否则通过。

通过的时候,要更新缓存数据,将数据前移,这次请求时间就是最后一次请求时间。

// 更新缓存
cache.set(0, cache.get(1));
cache.set(1, cache.get(2));
cache.set(2, now);

4.最后执行下代码验证下结果

完整代码如下所示:

package demo;
import cn.hutool.core.date.DateUtil;
import lombok.SneakyThrows;
import lombok.val;
import java.util.ArrayList;
import java.util.Date;
import java.util.List;
import java.util.Random;
/**
 * 限流示例,每分钟只能请求3次
 */
public class LimitFlowDemo {
    // 记录最后3次请求时间
    List<Long> cache = new ArrayList<>();
    int limitTime = 10;
    public boolean validate() {
        boolean res = false;
        val now = DateUtil.currentSeconds();
        System.out.println("当前时间:" + DateUtil.format(new Date(now * 1000), "HH:mm:ss"));
        if (cache.size() < 3) {
            res = true;
            cache.add(now);
        } else if(now - cache.get(0) > limitTime){
            res = true;
            // 更新缓存
            cache.set(0, cache.get(1));
            cache.set(1, cache.get(2));
            cache.set(2, now);
        }
        System.out.println("请求结果:" + res);
        return res;
    }
    @SneakyThrows
    public static void main(String[] args) {
        Random rd = new Random();
        LimitFlowDemo demo = new LimitFlowDemo();
        for (int i = 0; i < 1000; i++) {
            demo.validate();
            //            Thread.sleep(rd.nextInt(3000));
            Thread.sleep(500);
        }
    }
}

到此这篇关于Java中实现接口限流的方案详解的文章就介绍到这了,更多相关Java接口限流内容请搜索脚本之家以前的文章或继续浏览下面的相关文章希望大家以后多多支持脚本之家!

您可能感兴趣的文章:
阅读全文