当前位置:首页 > 黑客技术 > 正文内容

redis订阅和发布(redis数据库和mysql数据库)

访客2年前 (2022-04-19)黑客技术641

前阵子开发了公司领劵中心的项目,这个项目是以redis作为关键技术落地的。先说一下领劵中心的项目吧,这个项目就类似京东app的领劵中心,当然图是截取京东的,公司的就不截了。。。

其中有一个功能叫做领劵的订阅推送。什么是领劵的订阅推送?就是用户订阅了该劵的推送,在可领取前的一分钟就要把提醒信息推送到用户的app中。本来这个订阅功能应该是消息中心那边做的,但他们说这个短时间内做不了。所以让我这个负责优惠劵的做了-.-!。具体方案就是到具体的推送时间点了,coupon系统调用消息中心的推送接口,把信息推送出去。

下们我们分析一下这个功能的业务情景。公司目前注册用户6000W+,是哪家就不要打听了。。。比如有一张无门槛的优惠劵下单立减20元,那么抢这张劵的人就会比较多,我们保守估计10W+,百万级别不好说。我们初定为20W万人,那么这20W条推送信息要在一分钟推送完成!并且一个用户是可以订阅多张劵的。所以我们知道了这个订阅功能的有两个突出的难点:

1、推送的实效性:推送慢了,用户会抱怨没有及时通知他们错过了开抢时机。

2、推送的体量大:爆款的神劵,人人都想抢!

然而推送体量又会影响到推送的实效性。这真是一个让人头疼的问题!

那就让我们把问题一个个解决掉吧!

推送的实效性的问题:当用户在领劵中心订阅了某个劵的领取提醒后,在后台就会生成一条用户的订阅提醒记录,里面记录了在哪个时间点给用户发送推送信息。所以问题就变成了系统如何快速实时选出哪些要推送的记录!

方案1:MQ的延迟投递。MQ虽然支持消息的延迟投递但尺度太大1s 5s 10s 30s 1m,用来做精确时间点投递不行!并且用户执行订阅之后又取消订阅的话,要把发出去的MQ消息delete掉这个操作有点头大,短时间内难以落地!并且用户可以取消之后再订阅,这又涉及到去重的问题。所以MQ的方案否掉。

方案2:传统定时任务。这个相对来说就简单一点,用定时任务是去db里面load用户的订阅提醒记录,从中选出当前可以推送的记录。但有句话说得好任何脱离实际业务的设计都是耍流氓~。下面我们就分析一下传统的定时任务到底适不适合我们的这个业务!

总上所述我们就知道了一般传统的定时任务存在以下缺点:

1、性能瓶颈。只有一台机在处理,在大体量数据面前力不从心!

2、实效性差。定时任务的频率不能太高,太高会业务数据库造成很大的压力!

3、单点故障。万一跑的那台机挂了,那整个业务不可用了-。- 这是一个很可怕的事情!

所以传统定时任务也不太适合这个业务。。。

那我们是不是就束手无策了呢?其实不是的! 我们只要对传统的定时任务做一个简单的改造!就可以把它变成可以同时多机跑,并且实效性可以精确到秒级,并且拒绝单点故障的定时任务集群!这其中就要借助我们的强大的redis了。

方案3:定时任务集群

首先我们要定义定时任务集群要解决的三个问题!

1、实效性要高

2、吞吐量要大

3、服务要稳定,不能有单点故障

下面是整个定时任务集群的架构图。

架构很简单:我们把用户的订阅推送记录存储到redis集群的sortedSet队列里面,并且以提醒用户提醒时间戳作为score值,然后在我们个每业务server里面起一个定时器频率是秒级,我的设定就是1s,然后经过负载均衡之后从某个队列里面获取要推送的用户记录进行推送。下面我们分析以下这个架构

1、性能:除去带宽等其它因素,基本与机器数成线性相关。机器数量越多吞吐量越大,机器数量少时相对的吞吐量就减少。

2、实效性:提高到了秒级,效果还可以接受。

3、单点故障?不存在的!除非redis集群或者所有server全挂了。。。。

这里解析一下为什么用redis?

之一、redis 可以作为一个高性能的存储db,性能要比MySQL好很多,并且支持持久化,稳定性好。

第二、redis SortedSet队列天然支持以时间作为条件排序,完美满足我们选出要推送的记录。

ok~既然方案已经有了那如何在一天时间内把这个方案落地呢?是的我设计出这个方案到基本编码完成,时间就是一天。。。 因为时间太赶鸟。

首先我们以user_id作为key,然后mod队列数hash到redis SortedSet队列里面。为什么要这样呢,因为如果用户同时订阅了两张劵并且推送时间很近,这样的两条推送就可以合并成一条~,并且这样hash也相对均匀。下面是部分代码的截图:

然后要决定队列的数量,一般正常来说我们有多少台处理的服务器就定义多少条队列。因为队列太少,会造成队列竞争,太多可能会导致记录得不到及时处理。

然而更佳实践是队列数量应该是可动态配置化的,因为线上的集群机器数是会经常变的。大促的时候我们会加机器是不是,并且业务量增长了,机器数也是会增加是不是~。所以我是借用了 *** 的diamond进行队列数的动态配置。

我们每次从队列里面取多少条记录也是可以动态配置的。

这样就可以随时根据实际的生产情况调整整个集群的吞吐量~。 所以我们的定时任务集群还是具有一个特性就是支持动态调整~。

最后一个关键组件就是负载均衡了。这个是非常重要的!因为这个做得不好就会可能导致多台机竞争同时处理一个队列,影响整个集群的效率!在时间很紧的情况下我就用了一个简单实用的利用redis一个自增key 然后 mod 队列数量算法。这样就很大程度上就保证不会有两台机器同时去竞争一条队列~.

最后我们算一下整个集群的吞吐量

10(机器数) * 2000(一次拉取数) = 20000。然后以MQ的形式把消息推送到消息中心,发MQ是异步的,算上其它处理0.5s。

其实发送20W的推送也就是10几s的事情。

ok~ 到这里我们整个定时任务集群就差不多基本落地好了。如果你问我后面还有什么可以完善的话那就是:

1、加监控, 集群怎么可以木有监控呢,万一出问题有任务堆积怎么办~

2、加上可视化界面。

3、更好有智能调度,增加任务优先级。优先级高的任务先运行嘛。

4、资源调度,万一机器数量不够,力不从心,优先保证重要任务执行。

目前项目已上前线,运行平稳~。

原文作者:浮云骑士LIN

原文地址:https://www.cnblogs.com/linlini *** ine/p/9214299.html

扫描二维码推送至手机访问。

版权声明:本文由黑客24小时在线接单网站发布,如需转载请注明出处。

本文链接:http://www.cn-sl.com/17342.html

标签: 数据库
分享给朋友:

“redis订阅和发布(redis数据库和mysql数据库)” 的相关文章

临沂公积金贷款利率是多少,住房公积金能贷款多少

只要正在借浑前一套住房贷款的条件 高能力 再运用私积金贷款,详细 要看你的月纳存是若干 。战接的数目 闭系没有年夜 ,纳存比率是若干 。贷款利率会联合 申请的营业 种类、要依据 借贷才能 。 私积金贷款房价成数、一圆纳接住房私积金的,两套房只可贷到 六0万条件 是二小我 ,请参照。私积金贷款额度住房...

汽车价格排行榜前十名,汽车排名前十

各年纪 段的用户集体皆有。品牌代价 : 四 三 九点 三0亿美圆,那是世界汽车排名汽车第一位:黄金跑车,依据 昨天的汇率是 一英镑比 一 一点 八R这么那车如今 是 一 二亿阁下 ,第一位Bugatti Veyron 一 六点 四产天:法国价钱 : 一 一 九 二0 五 七美圆Bugatti Vey...

波音公司_波音公司市值

依据  二0 一 六年,被称为世界航空史上最胜利 的平易近 航客机。没有是国企。波音私司。 导航、之此中,博门制作 军用飞机,设正在华衰顿州的西俗图。取, 一 九 三 四年按当局 律例  请求装分红三个自力 的, 一 一 四。 费事把代码给没去,是美国一野开辟 及临盆 飞机的私司,异时正在军用飞机、...

正邦饲料多少钱一吨 「贵阳正邦饲料联系电话」

那个反诈骗德律风 便会挨给您,小猪预混料正常正在 六000元阁下 ,详细 价钱 纷歧 样,这么那种情形 之高,自乱区设坐分。 宝积饲料厂野曲销,邪邦的猪饲料正常皆患上正在本地 署理 商」拿货,自 一 九 八 四年于今,或者者说是被许多 人举报过,贱阴邪邦畜牧有限私司若干 是 二00 六-0 八- 二...

关于南极怪兽的电影

 一 九 五 八年 二月 一 三日下昼  一 七:00阁下 ,载有日原北极考查 队的“宗谷”在北极远洋的吕佐妇-霍我姆湾航止,忽然 有舟员年夜 喊“哥斯推”,由于  一 九 五 四年时日原东宝股份有限公司 制造 的怪兽片子 《哥斯推》曾经著名 于世, 对于没有亮年夜 型怪物喊没“哥斯推”长短 常天然...

天猫双十一购物津贴使用规则

每一年的单十一弄法 皆有更新,弄法 是愈来愈多,但仍保存 了一点儿经典弄法 ,好比 买物津揭。这么买物津揭是甚么意义呢?地猫单十一买物津揭运用规矩 是甚么?单十一买物津揭否以取哪些劣惠叠添?单 一 一买物津揭里值若干 元?一路 去相识 一高吧!...

评论列表

寻妄南殷
2年前 (2022-06-10)

集群的架构图。 架构很简单:我们把用户的订阅推送记录存储到redis集群的sortedSet队列里面,并且以提醒用户提醒时间戳作为score值,然后在我们个每业务server里面起一个定时器频率是秒级,我的设定就是1s,然后经过负载均衡之后从某

离鸢戈亓
2年前 (2022-06-10)

的推送时间点了,coupon系统调用消息中心的推送接口,把信息推送出去。 下们我们分析一下这个功能的业务情景。公司目前注册用户6000W+,是哪家就不要打听了。。。比如有一张无门槛的优惠劵下单立减20元,那么抢这张劵的人

瑰颈蔚落
2年前 (2022-06-10)

订阅了该劵的推送,在可领取前的一分钟就要把提醒信息推送到用户的app中。本来这个订阅功能应该是消息中心那边做的,但他们说这个短时间内做不了。所以让我这个负责优惠劵的做了-.-!。具体方案就是到具体的推送时间点了,coupon系统调用消息中心的推

发表评论

访客

◎欢迎参与讨论,请在这里发表您的看法和观点。