发际红第二部,白花马蔺,布艺制作
前言
在互联网应用中,流量洪峰是常有的事情。在应对流量洪峰时,通用的处理模式一般有排队、限流,这样可以非常直接有效的保护系统,防止系统被打爆。另外,通过限流技术手段,可以让整个系统的运行更加平稳。今天要与大家分享一下限流算法和c#版本的组件。
一、令牌桶算法:
令牌桶算法的基本过程如下:
工作过程包括3个阶段:产生令牌、消耗令牌和判断数据包是否通过。其中涉及到2个参数:令牌产生的速率和令牌桶的大小,这个过程的具体工作如下。
下面是c#的一个实现方式
class tokenbucketlimitingservice: ilimitingservice { private limitedqueue<object> limitedqueue = null; private cancellationtokensource canceltoken; private task task = null; private int maxtps; private int limitsize; private object lckobj = new object(); public tokenbucketlimitingservice(int maxtps, int limitsize) { this.limitsize = limitsize; this.maxtps = maxtps; if (this.limitsize <= 0) this.limitsize = 100; if(this.maxtps <=0) this.maxtps = 1; limitedqueue = new limitedqueue<object>(limitsize); for (int i = 0; i < limitsize; i++) { limitedqueue.enqueue(new object()); } canceltoken = new cancellationtokensource(); task = task.factory.startnew(new action(tokenprocess), canceltoken.token); } /// <summary> /// 定时消息令牌 /// </summary> private void tokenprocess() { int sleep = 1000 / maxtps; if (sleep == 0) sleep = 1; datetime start = datetime.now; while (canceltoken.token.iscancellationrequested ==false) { try { lock (lckobj) { limitedqueue.enqueue(new object()); } } catch { } finally { if (datetime.now - start < timespan.frommilliseconds(sleep)) { int newsleep = sleep - (int)(datetime.now - start).totalmilliseconds; if (newsleep > 1) thread.sleep(newsleep - 1); //做一下时间上的补偿 } start = datetime.now; } } } public void dispose() { canceltoken.cancel(); } /// <summary> /// 请求令牌 /// </summary> /// <returns>true:获取成功,false:获取失败</returns> public bool request() { if (limitedqueue.count <= 0) return false; lock (lckobj) { if (limitedqueue.count <= 0) return false; object data = limitedqueue.dequeue(); if (data == null) return false; } return true; } }
public interface ilimitingservice:idisposable { /// <summary> /// 申请流量处理 /// </summary> /// <returns>true:获取成功,false:获取失败</returns> bool request(); }
public class limitingfactory { /// <summary> /// 创建限流服务对象 /// </summary> /// <param name="limitingtype">限流模型</param> /// <param name="maxqps">最大qps</param> /// <param name="limitsize">最大可用票据数</param> public static ilimitingservice build(limitingtype limitingtype = limitingtype.tokenbucket, int maxqps = 100, int limitsize = 100) { switch (limitingtype) { case limitingtype.tokenbucket: default: return new tokenbucketlimitingservice(maxqps, limitsize); case limitingtype.leakagebucket: return new leakagebucketlimitingservice(maxqps, limitsize); } } } /// <summary> /// 限流模式 /// </summary> public enum limitingtype { tokenbucket,//令牌桶模式 leakagebucket//漏桶模式 } public class limitedqueue<t> : queue<t> { private int limit = 0; public const string queuefulled = "ttp-streamlimiting-1001"; public int limit { get { return limit; } set { limit = value; } } public limitedqueue() : this(0) { } public limitedqueue(int limit) : base(limit) { this.limit = limit; } public new bool enqueue(t item) { if (limit > 0 && this.count >= this.limit) { return false; } base.enqueue(item); return true; } }
调用方法:
var service = limitingfactory.build(limitingtype.tokenbucket, 500, 200); while (true) { var result = service.request(); //如果返回true,说明可以进行业务处理,否则需要继续等待 if (result) { //业务处理...... } else thread.sleep(1); }
二、漏桶算法
声明一个固定容量的桶,每接受到一个请求向桶中添加一个令牌,当令牌桶达到上线后请求丢弃或等待,具体算法如下:
工作过程也包括3个阶段:产生令牌、消耗令牌和判断数据包是否通过。其中涉及到2个参数:令牌自动消费的速率和令牌桶的大小,个过程的具体工作如下。
c#的一个实现方式:
class leakagebucketlimitingservice: ilimitingservice { private limitedqueue<object> limitedqueue = null; private cancellationtokensource canceltoken; private task task = null; private int maxtps; private int limitsize; private object lckobj = new object(); public leakagebucketlimitingservice(int maxtps, int limitsize) { this.limitsize = limitsize; this.maxtps = maxtps; if (this.limitsize <= 0) this.limitsize = 100; if (this.maxtps <= 0) this.maxtps = 1; limitedqueue = new limitedqueue<object>(limitsize); canceltoken = new cancellationtokensource(); task = task.factory.startnew(new action(tokenprocess), canceltoken.token); } private void tokenprocess() { int sleep = 1000 / maxtps; if (sleep == 0) sleep = 1; datetime start = datetime.now; while (canceltoken.token.iscancellationrequested == false) { try { if (limitedqueue.count > 0) { lock (lckobj) { if (limitedqueue.count > 0) limitedqueue.dequeue(); } } } catch { } finally { if (datetime.now - start < timespan.frommilliseconds(sleep)) { int newsleep = sleep - (int)(datetime.now - start).totalmilliseconds; if (newsleep > 1) thread.sleep(newsleep - 1); //做一下时间上的补偿 } start = datetime.now; } } } public void dispose() { canceltoken.cancel(); } public bool request() { if (limitedqueue.count >= limitsize) return false; lock (lckobj) { if (limitedqueue.count >= limitsize) return false; return limitedqueue.enqueue(new object()); } } }
调用方法:
var service = limitingfactory.build(limitingtype.leakagebucket, 500, 200); while (true) { var result = service.request(); //如果返回true,说明可以进行业务处理,否则需要继续等待 if (result) { //业务处理...... } else thread.sleep(1); }
两类限流算法虽然非常相似,但是还是有些区别的,供大家参考!
漏桶算法能够强行限制数据的传输速率。在某些情况下,漏桶算法不能够有效地使用网络资源。因为漏桶的漏出速率是固定的。
令牌桶算法能够在限制数据的平均传输速率的同时还允许某种程度的突发传输.
总结
以上就是这篇文章的全部内容了,希望本文的内容对大家的学习或者工作具有一定的参考学习价值,如果有疑问大家可以留言交流,谢谢大家对移动技术网的支持。
如对本文有疑问,请在下面进行留言讨论,广大热心网友会与你互动!! 点击进行留言回复
Blazor server side 自家的一些开源的, 实用型项目的进度之 CEF客户端
.NET IoC模式依赖反转(DIP)、控制反转(Ioc)、依赖注入(DI)
vue+.netcore可支持业务代码扩展的开发框架 VOL.Vue 2.0版本发布
网友评论