RocketMq试用+简单的Spring集成

经过2天的试用初步了解了一下RocketMq的基本用法,搜索了一下度娘,没有找到Spring的例子,所以简单搞了一点代码感受一下。

1.RocketMq

RocketMQ的前身是Metaq,当Metaq3.0发布时,产品名称改为RocketMQ,有以下特点:
1) 能够保证严格的消息顺序
2) 提供丰富的消息拉取模式
3) 高效的订阅者水平扩展能力
4)实时的消息订阅机制
5)亿级消息堆积能力123456

2.核心原理

2.1. 数据结构

RocketMq
这里写图片描述

(1)所有数据单独储存到commit Log ,完全顺序写,随机读
 (2)对最终用户展现的队列实际只储存消息在Commit Log 的位置信息,并且串行方式刷盘
 (3)按照MessageId查询消息
 这里写图片描述
 (4)根据查询的key的hashcode%slotNum得到具体的槽位置  
 这里写图片描述
 (5)根据slotValue(slot对应位置的值)查找到索引项列表的最后一项
 (6)遍历索引项列表返回查询时间范围内的结果集

2.2. 刷盘策略

rocketmq中的所有消息都是持久化的,先写入系统pagecache,然后刷盘,可以保证内存与磁盘都有一份数据,访问时,可以直接从内存读取

使用简单的符号标识不同的标题,将某些文字标记为粗体或者斜体,创建一个链接等,详细语法参考帮助?。

本编辑器支持 Markdown Extra ,  扩展了很多好用的功能。具体请参考[Github][2].

2.3. 内存机制

这里写图片描述

2.4. 工作模式

这里写图片描述

3. 环境安装

3.1. JAVA环境安装

安装

rpm -ivh jdk-7u80-linux-x64.rpm1

环境变量

JAVA_HOME=/usr/java/jdk1.7.0_80
CLASSPATH=.:$JAVA_HOME/lib.tools.jar
PATH=$JAVA_HOME/bin:$PATHexport JAVA_HOME CLASSPATH PATHexport ROCKETMQ_HOME=/usr/local/service/alibaba-rocketmq12345

3.2. RocketMq安装

https://github.com/alibaba/RocketMQ/releases下载3.2.6,解压1

4. 测试网络拓扑

这里写图片描述

因为手里没有其他服务器,105那台缺少一个slave,在同步双写模式下,发送消息会返回 SLAVE_NOT_AVAILABLE,不过消息已经发送成功,只是slave没有写成功。

5. 启停操作

这里只给出一个基本的示例,各个模式的启停在本文最后的参考文献中会有详细的说明。这里不再赘述。1
  • 启动nameserver

nohup ./mqnamesrv &1
  • 停止nameServer

./mqshutdown namesrv1
  • 启动broker(单master)(多master,多master+slave)对应的(异步复制,同步双写)

nohup sh mqbroker -n 192.168.146.109:9876 -c $ROCKETMQ_HOME/conf/2m-noslave/broker-a.properties &1
  • 停止broker

./mqshutdown broker1

6. 运维指令

  • 查看集群情况

./mqadmin clusterList -n 127.0.0.1:98761
  • 查看broker状态

./mqadmin brokerStatus -n 127.0.0.1:9876 -b 192.168.146.105:109111
  • 查看topic列表

./mqadmin topicList -n 127.0.0.1:98761
  • 查看topic状态

./mqadmin topicStatus -n 127.0.0.1:9876 -t PushTopic1
  • 查看topic路由

./mqadmin topicRoute  -n 127.0.0.1:9876 -t PushTopic1

7.    基本测试

基本测试采用java直接编码的方式生产和消费消息,例子来源于参考文献的《RocketMQ开发教程》。本文最后的代码示例,采用了spring的形式。

  • Producer

package com.jd.wxz;import com.alibaba.rocketmq.client.producer.DefaultMQProducer;import com.alibaba.rocketmq.client.producer.SendResult;import com.alibaba.rocketmq.common.message.Message;public class Producer {
    public static void main(String[] args){
        DefaultMQProducer producer = new DefaultMQProducer("Producer");
        producer.setNamesrvAddr("192.168.146.109:9876"); 
        try {
            producer.start();

            Message msg = new Message("PushTopic", 
                    "push", 
                    "1", 
                    "Just for test.".getBytes());

            SendResult result = producer.send(msg);
            System.out.println("id:" + result.getMsgId() +                    " result:" + result.getSendStatus());

            msg = new Message("PushTopic", 
                    "push", 
                    "2", 
                    "Just for test.".getBytes());

            result = producer.send(msg);
            System.out.println("id:" + result.getMsgId() +                    " result:" + result.getSendStatus());

            msg = new Message("PullTopic", 
                    "pull", 
                    "1", 
                    "Just for test.".getBytes());

            result = producer.send(msg);
            System.out.println("id:" + result.getMsgId() +                    " result:" + result.getSendStatus());
        } catch (Exception e) {
            e.printStackTrace();
        }finally{
            producer.shutdown();
        }
    }
}12345678910111213141516171819202122232425262728293031323334353637383940414243444546
  • Consumer

package com.sean;import java.util.List;import com.alibaba.rocketmq.client.consumer.DefaultMQPushConsumer;import com.alibaba.rocketmq.client.consumer.listener.ConsumeConcurrentlyContext;import com.alibaba.rocketmq.client.consumer.listener.ConsumeConcurrentlyStatus;import com.alibaba.rocketmq.client.consumer.listener.MessageListenerConcurrently;import com.alibaba.rocketmq.common.consumer.ConsumeFromWhere;import com.alibaba.rocketmq.common.message.Message;import com.alibaba.rocketmq.common.message.MessageExt;public class Consumer {
    public static void main(String[] args){
        DefaultMQPushConsumer consumer = 
                new DefaultMQPushConsumer("PushConsumer");
        consumer.setNamesrvAddr("192.168.146.109:9876"); 
        try {            //订阅PushTopic下Tag为push的消息
            consumer.subscribe("PushTopic", "push");            //程序第一次启动从消息队列头取数据
            consumer.setConsumeFromWhere(
                    ConsumeFromWhere.CONSUME_FROM_FIRST_OFFSET);
            consumer.registerMessageListener(                new MessageListenerConcurrently() {                    public ConsumeConcurrentlyStatus consumeMessage(
                            List<MessageExt> list,
                            ConsumeConcurrentlyContext Context) {
                        Message msg = list.get(0);
                        System.out.println(msg.toString());                        return ConsumeConcurrentlyStatus.CONSUME_SUCCESS;
                    }
                }
            );
            consumer.start();
        } catch (Exception e) {
            e.printStackTrace();
        }
    }
}1234567891011121314151617181920212223242526272829303132333435363738394041

运行结果:
 这里写图片描述
 这里写图片描述

服务端监控:
 这里写图片描述

8.宕机实验

这里写图片描述

9.遗留问题

1)  关闭master 自动切换到slave无法实现,官方资料上没有明确指明,第三方文档里有(见文献3)。
2)  在开发机服务器上运行os.sh进行优化,导致网络无法连接,运维帮忙重启才恢复。

10.RocketMq+Spring×××

戳我

11.参考文献

1) 《RocketMq入门(上)》

2) 《RocketMq入门(下)》

3) 《Rokectmq开发教程》

4) 《阿里Rocketmq Quict Start》

5) 《RocketMQ与Kafka对比(18项差异)》

6) 《RocketMq命令整理》

7) 《RocketMq原理简介》


猜你喜欢

转载自blog.51cto.com/13904503/2296430