存档2020年9月14日

MQ消息队列

  1. 什么是MQ?
    消息总线(Message Queue),是一种跨进程、异步的通信机制,用于上下游传递消息。由消息系统来确保消息的可靠传递。
  2. MQ是干什么用的?
    应用解耦、异步、流量削锋、数据分发、错峰流控、日志收集等等…
  3. MQ衡量标准
    服务性能、数据存储、集群架构

主流竞品分析
RabbitMQ、Kafka、ActiveMQ、ZeroMQ和阿里巴巴捐献给Apache的RocketMQ。甚至连redis这种NoSQL都支持MQ的功能。

  1. ActiveMQ
    是apache出品,最流行的,能力强劲的开源消息总线,并且它一个完全支持JMS规范的消息中间件。其丰富的API、多种集群构建模式使得它成为业界老牌消息中间件,在中小型企业中应用广泛。
    但是其性能稍差,在面对高并发的情况下,会出现消息阻塞、堆积、延迟等问题。
    集群构架模式
    Master-Slave模式:通过zookeeper对主从进行管理,正常情况下,从节点不会提供服务。当主节点出现问题后,zookeeper会高效的将主节点下掉,从节点来提供服务。
    NetWork模式:两套主从Master-Slave节点。由网络联通,将其变为分布式的集群架构。
  2. Kafka
    是LinkedIn开源的分布式发布-订阅消息系统,目前归属于Apache顶级项目。Kafka主要特点就是基于Pull的模式来处理消息消费,追求高吞吐量,一开始的目的就是用于日志收集和传输。0.8版本开始支持复制,不支持事务,对消息的重复、丢失、错误没有严格要求,适合产生大量数据的互联网服务的数据收集业务。能够支持廉价的服务器上以每秒100k条数据的吞吐量。(有ack机制,可以保证不丢失,不能保证不重复。)
    高效的读写基于操作系统低层的Page Cache。仅仅使用内存管理,不存在内存和磁盘之间的IO操作。
    通过replicate进行节点间数据的复制,尽量保证数据的可靠性
  3. RocketMQ
    是阿里开源的消息中间件,目前也已经孵化为Apache顶级项目,它是纯Java开发,具有高吞吐量、高可靠性、适合大规模分布式系统应用的特点。RocketMQ思路起源于Kafka,它对消息的可靠传输以及事务性做了优化,目前在阿里集团被广泛应用于交易、充值、流计算、消息推送、日志流式处理、binlog分发等场景。
    在2.0版本,RocketMQ集群也是通过Zookeeper进行管理。在3.0之后,放弃Zookeeper,使用NameServer进行集群的管理和协调。
    能够保障消息的顺序消费,提供了丰富的消息拉取等处理模式,消费者可以高效进行水平扩展,能够承载上亿级别数据量级。
    可以支持多种集群架构模式:Master-Slave模式、双Master-Slave模式、多主多从模式等等。
    支持多种刷盘策略:同步双写、异步复制。借助了零拷贝等技术。
  4. RabbitMQ
    是一个开源的消息代理和队列服务器,用来通过普通协议在不同的应用之间共享数据(跨平台跨语言)。RabbitMQ是使用Erlang语言编写,并且基于AMQP协议实现。
    RabbitMQ的优势:
    可靠性(Reliablity):使用了一些机制来保证可靠性,比如持久化、传输确认、发布确认。
    灵活的路由(Flexible Routing):在消息进入队列之前,通过Exchange来路由消息。对于典型的路由功能,Rabbit已经提供了一些内置的Exchange来实现。针对更复杂的路由功能,可以将多个Exchange绑定在一起,也通过插件机制实现自己的Exchange。
    消息集群(Clustering):多个RabbitMQ服务器可以组成一个集群,形成一个逻辑Broker。
    高可用(Highly Avaliable Queues):队列可以在集群中的机器上进行镜像,使得在部分节点出问题的情况下队列仍然可用。
    多种协议(Multi-protocol):支持多种消息队列协议,如STOMP、MQTT等。
    多种语言客户端(Many Clients):几乎支持所有常用语言,比如Java、.NET、Ruby等。
    管理界面(Management UI):提供了易用的用户界面,使得用户可以监控和管理消息Broker的许多方面。
    跟踪机制(Tracing):如果消息异常,RabbitMQ提供了消息的跟踪机制,使用者可以找出发生了什么。
    插件机制(Plugin System):提供了许多插件,来从多方面进行扩展,也可以编辑自己的插件。