Golang 限流器的使用和实现示例
2020-06-28 12:01:23 来源:易采站长站 作者:于海丽
Golang 限流器的使用和实现示例
易采站长站,站长之家为您整理了Golang 限流器的使用和实现示例的相关内容。
限流器是服务中非常重要的一个组件,在网关设计、微服务、以及普通的后台应用中都比较常见。它可以限制访问服务的频次和速率,防止服务过载,被刷爆。
限流器的算法比较多,常见的比如令牌桶算法、漏斗算法、信号量等。本文主要介绍基于漏斗算法的一个限流器的实现。文本也提供了其他几种开源的实现方法。
基于令牌桶的限流器实现
在golang 的官方扩展包 time 中(github/go/time),提供了一个基于令牌桶算法的限流器的实现。
原理
令牌桶限流器,有两个概念:
令牌:每次都需要拿到令牌后,才可以访问 桶:有一定大小的桶,桶中最多可以放一定数量的令牌 放入频率:按照一定的频率向通里面放入令牌,但是令牌数量不能超过桶的容量因此,一个令牌桶的限流器,可以限制一个时间间隔内,最多可以承载桶容量的访问频次。下面我们看看官方的实现。
实现
限流器的定义
下面是对一个限流器的定义:
type Limiter struct { limit Limit // 放入桶的频率 (Limit 为 float64类型) burst int // 桶的大小 mu sync.Mutex tokens float64 // 当前桶内剩余令牌个数 last time.Time // 最近取走token的时间 lastEvent time.Time // 最近限流事件的时间 }
其中,核心参数是 limit,burst。 burst 代表了桶的大小,从实际意义上来讲,可以理解为服务可以承载的并发量大小;limit 代表了 放入桶的频率,可以理解为正常情况下,1s内我们的服务可以处理的请求个数。
在令牌发放后,会被保留在Reservation 对象中,定义如下:
type Reservation struct { ok bool // 是否满足条件分配到了tokens lim *Limiter // 发送令牌的限流器 tokens int // tokens 的数量 timeToAct time.Time // 满足令牌发放的时间 limit Limit // 令牌发放速度 }
Reservation 对象,描述了一个在达到 timeToAct 时间后,可以获取到的令牌的数量tokens。 (因为有些需求会做预留的功能,所以timeToAct 并不一定就是当前的时间。
限流器如何限流
官方提供的限流器有阻塞等待式的,也有直接判断方式的,还有提供了自己维护预留式的,但核心的实现都是下面的reserveN 方法。
// 在 now 时间需要拿到n个令牌,最多可以等待的时间为maxFutureResrve // 结果将返回一个预留令牌的对象 func (lim *Limiter) reserveN(now time.Time, n int, maxFutureReserve time.Duration) Reservation { lim.mu.Lock() // 首先判断是否放入频次是否为无穷大,如果为无穷大,说明暂时不限流 if lim.limit == Inf { // ... } // 拿到截至now 时间时,可以获取的令牌tokens数量,上一次拿走令牌的时间last now, last, tokens := lim.advance(now) // 然后更新 tokens 的数量,把需要拿走的去掉 tokens -= float64(n) // 如果tokens 为负数,说明需要等待,计算等待的时间 var waitDuration time.Duration if tokens < 0 { waitDuration = lim.limit.durationFromTokens(-tokens) } // 计算是否满足分配条件 // ① 需要分配的大小不超过桶容量 // ② 等待时间不超过设定的等待时常 ok := n <= lim.burst && waitDuration <= maxFutureReserve // 最后构造一个Reservation对象 r := Reservation{ ok: ok, lim: lim, limit: lim.limit, } if ok { r.tokens = n r.timeToAct = now.Add(waitDuration) } // 并更新当前limiter 的值 if ok { lim.last = now lim.tokens = tokens lim.lastEvent = r.timeToAct } else { lim.last = last } lim.mu.Unlock() return r } 以上就是关于对Golang 限流器的使用和实现示例的详细介绍。欢迎大家对Golang 限流器的使用和实现示例内容提出宝贵意见
最新图文推荐
相关文章
-
使用Go基于WebSocket构建千万级视频直播弹幕系统的代码详解
(1)业务复杂度介绍 开门见山,假设一个直播间同时500W人在线,那么1秒钟1000条弹幕,那么弹幕系统的推送频率就是: 500W * 1000条/秒=50亿条/秒 ,想想B站2019跨年晚会那次弹幕系统得是2020-07-08 -
golang中import cycle not allowed解决的一种思路
发现问题 项目中碰到了一些问题,使用了指针函数的思路来解决相应问题 在实际项目中,因为两个项目互相引了对方的一些方法,导致了循环引用的错误,原本可以使用http的请求来解2019-11-10