有一个服务器,用于提供HTTP服务,但是需要限制每个用户在任意的100秒内只能请求60次,怎么实现这个功能

问题

有一个服务器,用于提供HTTP服务,但是需要限制每个用户在任意的100秒内只能请求60次,怎么实现这个功能

我的回答

嗯,这个问题其实挺经典的,就是限流嘛。任意100秒内最多60次请求,这是个滑动窗口的问题。

我觉得可以这样实现:

方案一:用队列记录时间戳

cpp 复制代码
#include <unordered_map>
#include <queue>
#include <chrono>

class RateLimiter {
private:
    std::unordered_map<std::string, std::queue<long long>> userRequests;
    
public:
    bool isAllowed(const std::string& userId) {
        auto now = std::chrono::duration_cast<std::chrono::seconds>(
            std::chrono::system_clock::now().time_since_epoch()).count();
        
        auto& requests = userRequests[userId];
        
        // 先把100秒前的请求都清掉
        while (!requests.empty() && now - requests.front() > 100) {
            requests.pop();
        }
        
        // 看看是不是已经到60次了
        if (requests.size() >= 60) {
            return false;
        }
        
        // 记录这次请求
        requests.push(now);
        return true;
    }
};

这个方案比较直观,就是每个用户维护一个时间戳队列。但是吧,如果用户很多的话,内存消耗会比较大。

方案二:滑动窗口计数器

cpp 复制代码
#include <unordered_map>
#include <chrono>

struct WindowData {
    int prevCount = 0;
    int currCount = 0;
    long long currWindowStart = 0;
};

class RateLimiter {
private:
    std::unordered_map<std::string, WindowData> windows;
    static const int WINDOW_SIZE = 100;
    static const int MAX_REQUESTS = 60;
    
public:
    bool isAllowed(const std::string& userId) {
        auto now = std::chrono::duration_cast<std::chrono::seconds>(
            std::chrono::system_clock::now().time_since_epoch()).count();
        
        auto& data = windows[userId];
        long long currentWindow = now / WINDOW_SIZE;
        
        // 如果进入了新的窗口
        if (data.currWindowStart != currentWindow) {
            data.prevCount = data.currCount;
            data.currCount = 0;
            data.currWindowStart = currentWindow;
        }
        
        // 计算滑动窗口内的估算请求数
        double prevWeight = (double)(WINDOW_SIZE - (now % WINDOW_SIZE)) / WINDOW_SIZE;
        double estimatedCount = data.prevCount * prevWeight + data.currCount;
        
        if (estimatedCount >= MAX_REQUESTS) {
            return false;
        }
        
        data.currCount++;
        return true;
    }
};

这个方案内存占用比较小,每个用户就存几个数字,但是精度会差一点点。

实际使用的话

如果在实际项目中遇到这个问题,可能还会考虑:

  1. 线程安全:加个mutex或者用原子操作
cpp 复制代码
#include <mutex>

class ThreadSafeRateLimiter {
private:
    std::mutex mtx;
    // ... 其他成员
    
public:
    bool isAllowed(const std::string& userId) {
        std::lock_guard<std::mutex> lock(mtx);
        // ... 限流逻辑
    }
};
  1. 内存清理:定期清理过期的用户数据,不然内存会一直涨

  2. 如果是分布式的:可能需要用Redis之类的外部存储

我个人比较倾向于第二种方案,因为内存效率高,而且对于大部分场景来说精度够用了。当然如果对精度要求特别高,那就用第一种。

相关推荐
董董灿是个攻城狮1 小时前
AI视觉连载8:传统 CV 之边缘检测
算法
AI软著研究员8 小时前
程序员必看:软著不是“面子工程”,是代码的“法律保险”
算法
FunnySaltyFish8 小时前
什么?Compose 把 GapBuffer 换成了 LinkBuffer?
算法·kotlin·android jetpack
颜酱9 小时前
理解二叉树最近公共祖先(LCA):从基础到变种解析
javascript·后端·算法
地平线开发者1 天前
SparseDrive 模型导出与性能优化实战
算法·自动驾驶
董董灿是个攻城狮1 天前
大模型连载2:初步认识 tokenizer 的过程
算法
地平线开发者1 天前
地平线 VP 接口工程实践(一):hbVPRoiResize 接口功能、使用约束与典型问题总结
算法·自动驾驶
罗西的思考1 天前
AI Agent框架探秘:拆解 OpenHands(10)--- Runtime
人工智能·算法·机器学习
HXhlx1 天前
CART决策树基本原理
算法·机器学习
Wect1 天前
LeetCode 210. 课程表 II 题解:Kahn算法+DFS 双解法精讲
前端·算法·typescript