当前位置: 移动技术网 > IT编程>软件设计>架构 > RocketMQ原理及源码解析

RocketMQ原理及源码解析

2019年06月10日  | 移动技术网IT编程  | 我要评论

 

rocketmq原理深入:

一、定义:

rocketmq是一款分布式、队列模型的消息中间件,有以下部分组成:

1、nameserver: 一个几乎无状态的节点,可集群部署,节点之间无任何信息同步

2、broker:rocketmq的核心组成部分,通过轻量级的topic和队列机制来维护消息存储,broker支持消息pushpull模式。支持千亿级别的消息堆积能力

3、producer:消息生产者,和nameserver通信获取topic路由信息,和nameserver保持长连接以及和该生产者关联的所有broker保持长连接

4、consumer:消费者,单个消费者和一台nameserver保持长连接,定时查询topic配置信息,根据topic路由和broker保持长连接

二、broker集群方式

1、master模式:这种方式风险较大,一旦broker 重启或者宕机时,会导致整个服务不可用,不建议线上环境使用。

2、master模式:一个集群无 slave,全是 master,例如:3 master

   优点:配置简单,单个master 宕机或重启维护对应用无影响,在磁盘配置为 raid10 时,即使机器宕机不可恢复情况下,由与 raid10 磁盘非常可靠,消息也不会丢(异步刷盘丢失少量消息,同步刷盘一条不丢)。性能最高。

   缺点:单台机器宕机期间,这台机器上未被消费的消息在机器恢复之前不可订阅,消息实时性会受到受到影响。

3、masterslave模式、异步复制

每个 master 配置一个 slave,有多对master-slaveha 采用异步复制方式,主备有短暂消息延迟,毫秒级。

   优点:即使磁盘损坏,消息丢失的非常少,且消息实时性不会受影响,因为 master 宕机后,消费者仍然可以从 slave 消费,此过程对应用透明。不需要人工干预。性能同多 master 模式几乎一样。

   缺点:master 宕机,磁盘损坏情况,会丢失少量消息。

4、masterslave、同步双写

每个 master 配置一个 slave,有多对master-slaveha 采用同步双写方式,主备都写成功,向应用返回成功。

   优点:数据与服务都无单点,master宕机情况下,消息无延迟,服务可用性与数据可用性都非常高

   缺点:性能比异步复制模式略低,大约低 10%左右,发送单个消息的 rt 会略高。目前主宕机后,备机不能自动切换为主机,后续会支持自动切换功能。

 

三、rocketmq架构图:

图片借鉴:

 

四、rocketmq源码分析:

1、mq功能模块:

 

 

rocketmq-remoting:通信组件模块,提供通信需要的编码解码器,主要接口:

a、remotingservice:顶级接口

//nettyconfig配置启动nio监听端口服务(serverbootstrapserverbootstrap.bind().sync()

    public void start();

//关闭服务端口

    public void shutdown();

//注册rpc响应钩子

public void registerrpchook(rpchook rpchook);

b、remotingserver:实现remotingservice,提供注册请求处理器和调用方式

c、remotingclient:实现remotingservice,远程通信,client接口

d、channeleventlistener:提供链接,关闭,异常,空闲事件监听接口

主要接口图:

 

rocketmq-namesrv:对应nameserver服务实例,一些时序图:

 

 

rocketmq-brokerbroker集群功能代码

brokerstartup:启动入口,提供命令参数解析,加载netty server,netty client,broker,messagestore配置初始化

brokercontroller:初始化topicmanager,consumeroffsetmanager加载offset,以及subscriptiongroupmanager加载消费组信息,messagestore加载commit log组装consumer queue建立索引

filterservermanager: 是对rocketmq-filtersrv过滤服务模块封装的接口,提供tag过滤支持

consumeroffsetmanager:消费进度管理

slavesynchronizeslavemaster同步topicconfigoffset进度、delayoffset进度、subscribeptiongroup信息

subscriptiongroupmanager:用来管理订阅组,包括订阅权限等

topicconfigmanagertopic配置管理

sendmessageprocessor:处理客户端发送消息的请求

querymessageprocessor:查询消息请求处理

pullmessageprocessor:拉消息请求处理

clientmanageprocessorclient注册与注销管理

包路径信息:

broker启动流程:

 

rocketmq-store:存储层原理

defaultmessagestore:负责管理consumerqueue,commitlog

consumequeue:由topicqueueid组成

commitlog:负责消息存储

mapedfilequeue:存储消息对应的位置

mapedfile:消息对应磁盘位置

类图:

存储时序:

rocketmq-client:包括producerconsumeradmin

a、producer:提供了多种发送消息接口(回调,超时,指定messagequeue),相关类图:

a、consumer:包括push建立长连接后的被动消费(subscribe),以及pull拉取方式

messagemodel:集群和广播消费模式

以下是接口对比:

pull拉取时序:

push时序:最终通过pullmessageservice回调注册的回调函数pullcallback,在调用consumer注册的回调listener

 

如对本文有疑问, 点击进行留言回复!!

相关文章:

验证码:
移动技术网