谈一谈秒杀系统设计
前言
在开发、学习或者面试中,高并发 一直是绕不开的话题。但是,实际在真正做项目时,仍然不知道如何下手处理高并发业务场景!甚至许多人仍然停留在只会简单的提供接口(CRUD)阶段,不知道学习的并发知识如何运用到实际项目中,就更别提如何去构建高并发系统了!
那么究竟什么样的系统算是高并发系统?这里我将对块内容展开我的理解,顺便回顾下对该系统的设计的理解。
1、什么是秒杀?
“秒杀”这一词多半出现在购物方面,但是又不单单只是购物,比如我们过年抢高铁票需要用到12306购票、学校抢课(苦逼大学生😭)也可以看成一个秒杀。秒杀有“三高”,这个三高不是指高血脂,高血压和高血糖😂。而是指“高并发”,“高性能”和“高可用”。
2、秒杀的问题
2.1、超卖
超卖是秒杀系统最大的一个问题,如果出现超卖这个锅只有程序员进行背了,有些秒杀系统宁愿用户等待时间长点或者体验稍微的降低一点也不愿意出现超卖的限制。(系统每出现一次超卖,就损失一位程序员)
2.2、高并发
高并发是指秒杀系统会在一瞬间发送一(亿)点点请求,这时候如果服务器蹦了那就会出现常见的页面了,所以通常一个秒杀系统都是一个单独的服务(单一职责)。这个可以通过限流和负载均衡处理。
2.3、恶意请求
恶意请求的意思就是一个人可能一次性购买很多(有时候全部也不在话下),然后再将这些东西转手卖出去。(这tm不就是黄牛)。逼近一个人的手速再快(多年单身的手速),也比不过机器请求。不要小看一些黄牛,可能他们使用的系统比一些大公司的系统都要强大。
2.4、高性能
如果一个秒杀系统在你点击了 抢购按钮 的时候,然后出现一个 loading... 的图标一直在那里转啊转,一直转了几十分钟,让你等了那么久,结果通知你商品已售空(哈哈哈哈)😡。
3、秒杀核心点
秒杀系统设计关键要点包括以下几个方面:
- 限流:秒杀系统需要通过限流来保证系统的稳定性和可靠性,限流的方式可以使用令牌桶算法、漏桶算法、计数器等。
- 防刷:秒杀系统需要防止用户通过刷单等手段恶意抢购商品,常见的防刷方法包括验证码、IP限制、行为识别等。
- 分布式缓存:秒杀系统需要使用分布式缓存来缓解数据库的压力,常用的缓存系统包括Redis、Memcached等。
- 数据库设计:秒杀系统需要设计高性能的数据库架构,包括主从复制、读写分离、垂直拆分、水平拆分等方式。
- 异步处理:秒杀系统可以采用异步处理的方式,将用户的请求放入消息队列中,由后台异步处理,减少用户请求的响应时间。
- 分布式锁:为了保证数据的一致性和并发访问的安全性,可以使用分布式锁技术来实现排队和同步处理。
- 缓存击穿:为了避免缓存击穿问题,可以在缓存中设置一个唯一标识,当缓存失效时,通过唯一标识来判断是否是真正的请求。
- 预热:在秒杀开始前,可以通过预热的方式将一些热门的商品提前加载到缓存中,以减少秒杀开始时的访问压力。
- 流量削峰:可以通过限流和队列的方式将用户的请求进行削峰填谷,避免系统在高并发下的负载过高。
- 幂等性:在处理用户的请求时,需要保证幂等性,避免重复处理相同的请求。
以上就是秒杀系统设计需要综合考虑多个方面。
4、限流操作
我这里简单介绍下 令牌桶算法 和 漏桶算法。
4.1、令牌桶算法
令牌桶算法是一种网络流量整形和速率限制算法,常用于控制发送到网络上的数据的数目,并允许突发数据的发送。
令牌桶算法的基本原理是,==系统维护一个固定容量的桶,桶内放置一定数量的令牌。当数据包到达时,会尝试从桶中获取一个令牌,如果令牌不足,则根据预设的策略进行处理,如:丢弃数据包或对数据包进行排队等待等。如果令牌足够,则将数据包发送出去,并将令牌数量减一==。
令牌桶算法可以有效地控制网络流量,避免网络拥塞。同时,由于令牌的生成和释放是按照一定的速率进行的,因此可以平滑网络流量的波动,保证网络流量的稳定性。
在实际应用中,令牌桶算法可以与其他算法结合使用,如漏桶算法、红黄绿标记算法等,以实现更复杂的网络流量控制和QoS保障功能。
4.2、漏桶算法
漏桶算法是网络世界中流量整形或速率限制时经常使用的一种算法,它的主要目的是控制数据注入到网络的速率,平滑网络上的突发流量。
漏桶可以看作是一个带有常量服务时间的单服务器队列,如果漏桶(包缓存)溢出,那么数据包会被丢弃。在网络中,漏桶算法可以控制端口的流量输出速率,平滑网络上的突发流量,实现流量整形,从而为网络提供一个稳定的流量。
漏桶算法强制一个常量的输出速率而不管输入数据流的突发性。当数据包具有相同尺寸的时候(例如ATM信元),每个时间片传输一个数据包的工作机制没有任何问题。到达的数据包(网络层的PDU)被放置在底部具有漏孔的桶中(数据包缓存);漏桶最多可以排队b个字节,漏桶的这个尺寸受限于有效的系统内存。数据包从漏桶中漏出,以常量速率(r字节/秒)注入网络,因此平滑了突发流量。