厉害!一文了解消息中间件-RabbitMQ

厉害!一文了解消息中间件-RabbitMQ,第1张

RabbitMQ是2007年发布,是一个在AMQP(高级消息队列协议)基础上完成的,简称MQ全称为Message Queue, 消息队列(MQ)是一种应用程序对应用程序的通信方法,由Erlang(专门针对于大数据高并发的语言)语言开发,可复用的企业消息系统,是当前最主流的消息中间件之一,具有可靠性、灵活的路由、消息集群简单、队列高可用、多种协议的支持、管理界面、跟踪机制以及插件机制。

1消息 就是数据,增删改查的数据。例如在员工管理系统中增删改查的数据

2队列 指的是一端进数据一端出数据,例如C#中(Queue数据结构)

1消息队列指:一端进消息,一端出消息

2RabbitMQ就是实现了消息队列概念的一个组件,以面向对象的思想去理解,消息队列就是类,而RabbitMQ就是实例,当然不仅仅只有RabbitMQ,例如ActiveMQ,RocketMQ,Kafka,包括Redis也可以实现消息队列。

1在常见的单体架构中,主要流程是用户UI操作发起Http请求>服务器处理>然后由服务器直接和数据库交互,最后同步反馈用户结果

2在微服务架构中,UI与微服务通信,主要是通过Http或者gRPC同步通信

问题分析

在上述2种情况下,我们发现在UI请求时都是同步操作 ,第2种架构虽然将整体服务按业务拆分成不同的微服务并且对应各自的数据库,但是在用户与微服务通信时,存在的问题依然没有解决,例如数据库的承载能力只能处理10w个请求,如果遇到高并发情况下,UI发起50w请求,那数据库是远远承载不了的,从而导致如下问题。

1高并发请求导致系统性能下降响应慢,同时数据库承载风险加大

2扩展性不强UI操作的交互对业务的依赖较大,导致用户体验下降

3瞬时流量涌入巨大的话,服务器可能直接挂了

解决方案

RabbitMQ的优势

RabbitMQ的不足

1ConnectionFactory 为Connection的制造工厂。

2Connection是RabbitMQ的socket链接,它封装了socket协议相关部分逻辑。

3Channel是我们与RabbitMQ打交道的最重要的一个接口,我们大部分的业务操作是在Channel这个接口中完成的,包括定义Queue、定义Exchange、绑定Queue与Exchange、发布消息等。

4Exchange(交换机) 我们通常认为生产者将消息投递到Queue中,实际上实际的情况是,生产者将消息发送到Exchange,由Exchange将消息路由到一个或多个Queue中(或者丢弃),而在RabbitMQ中的Exchange一共有4种策略,分别为:fanout(扇形)、direct(直连)、topic(主题)、headers(头部)

1下载RabbitMQ

2运行环境erlang

3安装完成之后,加载RabbitMQ管理插件

4安装成功访问RabbitMQ管理后台http://localhost:15672

1分别创建考勤服务,请假服务,计算薪酬服务,邮件服务,短信服务消费者角色

2创建员工管理网站用于模拟前端调用,主要充当生产者角色

3在员工管理网站和每一个模拟微服务中通过nuget引入RabbitMQClient

4在员工管理网站中创建模拟添加考勤的控制器并加入生产者代码

5在考勤微服务中创建接口,并在接口中加入消费者代码

fanout类型的Exchange路由规则非常简单,工作方式类似于多播一对多,它会把所有发送到该Exchange的消息路由到所有与它绑定的Queue中。

业务实例

当我们有员工需要请假,在员工管理系统提交请假,但是由于公司规定普通员工请假,需要发送短信到他的主管领导,针对此业务场景我们需要调用请假服务的同时去发送短信,这时需要两个消费者(请假服务,短信服务)来消费同一条消息,其实本质就是往RabbitMQ写入一个能被多个消费者接收的消息,所以可以使用 扇形交换机,一个生产者,多个消费者

生产者模拟使用调用控制器来实现

消费者实现IHostedService 接口创建一个监听主机

直接交换器,工作方式类似于单播一对一,Exchange会将消息发送完全匹配ROUTING_KEY的Queue,缺陷是无法实现多生产者对一个消费者

当我们员工管理系统需要计算薪资并将结果以发送短信的方式告诉员工,这个时候我们就不太适合用“扇形交换机”了,因为换做是你,你也不想你的工资全公司都知道吧?这个时候就需要定制了一对一的场景了,那就在生产消息时使用直连交换机根据routingKey发送指定的消费者

生产者模拟使用调用控制器来实现

消费者实现IHostedService 接口创建一个监听主机

Exchange绑定队列需要制定Key; Key 可以有自己的规则;Key可以有占位符; 或者# , 匹配一个单词、#匹配多个单词,在Direct基础上加上模糊匹配;多生产者一个消费者,可以多对对,也可以多对1, 真实项目当中,使用主题交换机。可以满足所有场景

1生产者定义Exchange,然后不同的routingKey绑定

3消费者routingKey的模糊匹配,生产者发送消息时routingKey定义以sms开头, 号只能匹配的routingKey为一级,例如(smsA)或(smsB)的发送的消息,# 能够匹配的routingKey为一级及多级以上 ,例如 (smsA)或者(smsAQWEIOP)

在月底的时候我们需要把员工存在异常考勤信息,薪资结算信息,请假信息分别以邮件的形式发送给我们的员工查阅,我们知道这是一个典型的多个生产者,一个消费者场景,异常考勤信息,薪资结算信息,请假信息分别需要生产消息发送到RabbitMQ,然后供我们员工消费

分别模拟3个生产者:异常考勤信息,薪资结算信息,请假信息

headers类型的Exchange不依赖于routing key与binding key的匹配规则来路由消息,而是根据发送的消息内容中的headers属性进行匹配。

在绑定Queue与Exchange时指定一组键值对以及x-match参数,x-match参数是字符串类型,可以设置为any或者all。如果设置为any,意思就是只要匹配到了headers表中的任何一对键值即可,all则代表需要全部匹配。

1不需要依赖Key

2更多的时候,像这种Key Value 的键值,可能会存储在数据库中,那么我们就可以定义一个动态规则来拼装这个Key value ,从而达到消息灵活转发到不同的队列中去

我们根据上面的业务和代码简单实现了由生产者到消费者的一个业务流程,我们可以总结出知道,整个消息的收发过程包含有三个角色,生产者(员工管理网站)、RabbitMQ(Broker)、消费者(微服务),在理想状态下,按照这样实现,整个流程以及系统的稳定性,可能不会发生太大的问题,但是真正在实际应用中我们要去思考可能存在的问题,主要从三个大的方面去分析,然后发散。

1生产端

2存储端

3消费端

我们在给RabbitMQ发送消息时,如何去保证消息一定到达呢,我们可以使用RabbitMQ提供了2种生产端的消息确认机制

我们生产端给RabbitMQ发送消息成功后,如果RabbitMQ宕机了,会导致RabbitMQ中消息丢失,如何解决消息丢失问题,针对RabbitMQ消息丢失,我们可以在生产者中使用

1持久化消息

2集群

当生产者写入消息到RabbitMQ后,消费服务接收消息期间,服务器宕机,导致消息丢失了,这个时候我们就应该使用RabbitMQ的消费端消息确认机制

1自动确认

2手动确认

消费者收到消息。消费者发送确认消息给rabbitmq期间。执行业务逻辑失败了,但是消息已经确认被消费了,我们应该在我们的消费者接收消息回调执行业务逻辑后面,执行使用手动确认消息机制,保证消息不被丢失

原文链接:https://wwwcnblogscom/yuxl01/p/15978229html

RabbitMQ安装#InstallfromEPEL[root@vdevops~]#yum--enablerepo=epel-yinstallrabbitmq-server[root@vdevops~]#systemctlstartrabbitmq-server[root@vdevops/]#journalctl-xeNov1201:30:01vdevopsorgCROND[3856]:(root)CMD(/usr/lib64/sa/sa111)Nov1201:30:04vdevopsorgrabbitmqctl[3831]:DIAGNOSTICSNov1201:30:04vdevopsorgrabbitmqctl[3831]:===========Nov1201:30:04vdevopsorgrabbitmqctl[3831]:attemptedtocontact:[rabbit@vdevops]Nov1201:30:04vdevopsorgrabbitmqctl[3831]:rabbit@vdevops:Nov1201:30:04vdevopsorgrabbitmqctl[3831]:unabletoconnecttoepmd(port4369)onvdevops:timeout(timedout)Nov1201:30:04vdevopsorgrabbitmqctl[3831]:currentnodedetails:Nov1201:30:04vdevopsorgrabbitmqctl[3831]:-nodename:rabbitmqctl3831@vdevopsNov1201:30:04vdevopsorgrabbitmqctl[3831]:-homedir:/var/lib/rabbitmqNov1201:30:04vdevopsorgrabbitmqctl[3831]:-cookiehash:s++dDMtIhAufFItw+ercBw==Nov1201:30:04vdevopsorgpolkitd[1007]:UnregisteredAuthenticationAgentforunix-process:3798:36632(systembusname:123,objectpath/org/freedesktop/PolicyKit1/AuthenticationAgent,localeen_USUTF-8)(disconnectedfNov1201:30:04vdevopsorgsystemd[1]:rabbitmq-serverservice:controlprocessexited,code=exitedstatus=2Nov1201:30:04vdevopsorgsystemd[1]:FailedtostartRabbitMQbroker--Subject:Unitrabbitmq-serverservicehasfailed--Defined-By:systemd--Support:http://listsfreedesktoporg/mailman/listinfo/systemd-devel----Unitrabbitmq-serverservicehasfailed----TheresultisfailedNov1201:30:04vdevopsorgsystemd[1]:Unitrabbitmq-serverserviceenteredfailedstateNov1201:30:04vdevopsorgsystemd[1]:rabbitmq-serverservicefailedNov1201:30:42vdevopsorgsystemd[1]:Gotautomountrequestfor/proc/sys/fs/binfmt_misc,triggeredby3860(find)Nov1201:30:42vdevopsorgsystemd[1]:MountingArbitraryExecutableFileFormatsFileSystem--Subject:Unitproc-sys-fs-binfmt_miscmounthasbegunstart-up--Defined-By:systemd--Support:http://listsfreedesktoporg/mailman/listinfo/systemd-devel----Unitproc-sys-fs-binfmt_miscmounthasbegunstartingupNov1201:30:42vdevopsorgsystemd[1]:MountedArbitraryExecutableFileFormatsFileSystem--Subject:Unitproc-sys-fs-binfmt_miscmounthasfinishedstart-up--Defined-By:systemd--Support:http://listsfreedesktoporg/mailman/listinfo/systemd-devel----Unitproc-sys-fs-binfmt_miscmounthasfinishedstartingup----Thestart-upresultisdonerabbitmq-server启动报错:FailedtostartRabbitMQbroker度娘解析:主机hostname配置错误,原本hostname为vdevopsorg,更改为vdevops,修改hosts文件中hostname设置[root@vdevops/]#hostnamectlset-hostnamevdevops#hostname更改重启启动rabbitmq-server[root@vdevops/]#systemctlstatusrabbitmq-server●rabbitmq-serverservice-RabbitMQbrokerLoaded:loaded(/usr/lib/systemd/system/rabbitmq-serverservice;disabled;vendorpreset:disabled)Active:active(running)sinceSat2016-11-1201:32:41CST;3min58sagoProcess:3831ExecStop=/usr/lib/rabbitmq/bin/rabbitmqctlstop(code=exited,status=2)MainPID:3891(beam)CGroup:/systemslice/rabbitmq-serverservice├─3891/usr/lib64/erlang/erts-5104/bin/beam-Ww-Ktrue-A30-P1048576---root/usr/lib64/erlang-prognameerl---home/var/lib/rabbitmq---pa/usr/lib/rabbitmq/lib/rabbitmq_server-335/sbin//ebin-nos├─3908/usr/lib64/erlang/erts-5104/bin/epmd-daemon├─3963inet_gethost4└─3964inet_gethost4Nov1201:32:39vdevopssystemd[1]:StartingRabbitMQbrokerNov1201:32:39vdevopssystemd[1]:rabbitmq-serverservice:GotnotificationmessagefromPID3908,butreceptiononlypermittedformainPID3891Nov1201:32:40vdevopsrabbitmq-server[3891]:RabbitMQ335Copyright(C)2007-2014GoPivotal,IncNov1201:32:40vdevopsrabbitmq-server[3891]:####LicensedundertheMPLSeehttp://wwwrabbitmqcom/Nov1201:32:40vdevopsrabbitmq-server[3891]:####Nov1201:32:40vdevopsrabbitmq-server[3891]:##########Logs:/var/log/rabbitmq/rabbit@vdevopslogNov1201:32:40vdevopsrabbitmq-server[3891]:########/var/log/rabbitmq/rabbit@vdevops-sasllogNov1201:32:40vdevopsrabbitmq-server[3891]:##########Nov1201:32:41vdevopssystemd[1]:StartedRabbitMQbrokerNov1201:32:41vdevopsrabbitmq-server[3891]:Startingbrokercompletedwith0plugins[root@vdevops~]#systemctlenablerabbitmq-serverCreatedsymlinkfrom/etc/systemd/system/multi-usertargetwants/rabbitmq-serverserviceto/usr/lib/systemd/system/rabbitmq-serverservice防火墙设置[root@linuxprobe~]#firewall-cmd--add-port=5672/tcp--permanentsuccess[root@linuxprobe~]#firewall-cmd--reloadsuccess要使用RabbitMQ,请先添加用户[root@vdevops~]#rabbitmqctladd_userlinuxprobepasswordCreatinguser"linuxprobe"done[root@vdevops~]#rabbitmqctllist_usersListingusersguest[administrator]linuxprobe[]done#grantingadminroletoauserislikefollows[root@vdevops~]#rabbitmqctlchange_passwordlinuxprobestrongpasswordChangingpasswordforuser"linuxprobe"done#grantingadminroletoauserislikefollows[root@vdevops~]#rabbitmqctlset_user_tagslinuxprobeadministratorSettingtagsforuser"linuxprobe"to[administrator]done#deletingauserislikefollows[root@vdevops~]#rabbitmqctldelete_userlinuxprobeDeletinguser"linuxprobe"done要使用RabbitMQ,也要添加虚拟主机[root@vdevops~]#rabbitmqctladd_vhost/my_vhostCreatingvhost"/my_vhost"done[root@vdevops~]#rabbitmqctllist_vhostsListingvhosts//my_vhostdone[root@vdevops~]#rabbitmqctldelete_vhost/my_vhostDeletingvhost"/my_vhost"done给虚拟主机的用户授予权限,请如下配置#rabbitmqctlset_permissions[-pvhost][user][permission(modify)(write)(read)][root@vdevops~]#rabbitmqctlset_permissions-p/my_vhostlinuxprobe""""""Settingpermissionsforuser"linuxprobe"invhost"/my_vhost"done#[root@vdevops~]#rabbitmqctllist_user_permissionslinuxprobeListingpermissionsforuser"linuxprobe"/my_vhostdone#deletingpermissionofaspecificuserislikefollows[root@vdevops~]#rabbitmqctlclear_permissions-p/my_vhostlinuxprobeClearingpermissionsforuser"linuxprobe"invhost"/my_vhost"doneRabbitMQ:使用WebUI[root@vdevops~]#rabbitmq-pluginsenablerabbitmq_managementThefollowingpluginshavebeenenabled:mochiwebwebmachinerabbitmq_web_dispatchamqp_clientrabbitmq_management_agentrabbitmq_managementPluginconfigurationhaschangedRestartRabbitMQforchangestotakeeffect[root@vdevops~]#systemctlrestartrabbitmq-server客户端访问http://vdevops:15672/rabbitmqadmin使用可以配置RabbitMQ使用rabbitmqadmin命在WebUI上下载rabbitmqadmin。登录到WebUI并移动到“http://(主机名或IP地址):15672/cli”,然后显示以下屏幕,您可以在这里下载rabbitmqadmin,点击here右键保存rabbitmqadmintxt,然后上传到服务器上面更改为rabbitmqadmin,并添加执行权限将rabbitmqadmin上传到RabbitMQ服务器并设置合适的权限,此示例显示如下设置[root@localhost~]#ll/usr/local/bin/rabbitmqadmin-rwxr-xr-x1rootroot36112Nov1117:23/usr/local/bin/rabbitmqadmin[root@vdevopsbin]#rabbitmqadminlistusers+------------+------------------------------+---------------+|name|password_hash|tags|+------------+------------------------------+---------------+|guest|k2rhpzCrZBKkY5WRhUWrGm5DCkg=|administrator||linuxprobe|P+YxK1QXIYrJpek5i//rPjn5SME=|administrator|+------------+------------------------------+---------------+[root@vdevopsbin]#cd[root@vdevops~]#rabbitmqadminlistusers+------------+------------------------------+---------------+|name|password_hash|tags|+------------+------------------------------+---------------+|guest|k2rhpzCrZBKkY5WRhUWrGm5DCkg=|administrator||linuxprobe|P+YxK1QXIYrJpek5i//rPjn5SME=|administrator|+------------+------------------------------+---------------+[root@vdevops~]#rabbitmqadminlistvhosts+-----------+---------+|name|tracing|+-----------+---------+|/|False||/my_vhost|False|+-----------+---------+详细可以参考http://wwwlinuxprobecom/centos-deploy-rabbitmqhtml

1 地址访问不到

这是因为我们演示的是安装在云服务器中的docker中,我们需要去云服务器的控制台中的安全组把15672端口打开,如果是安装的本地的docker就没有这个问题。

2 如文章开头所示,我们没有 Username 和 Password

这是因为要在rabbitmq中添加用户

这时候在浏览器中输入 ip:15672 用刚才设置的用户名和密码就可以登入了

(注意!本次演示的安装设备是云服务器,后面在浏览器中访问时地址中的ip要注意用云服务的公网ip)

DABAN RP主题是一个优秀的主题,极致后台体验,无插件,集成会员系统
网站模板库 » 厉害!一文了解消息中间件-RabbitMQ

0条评论

发表评论

提供最优质的资源集合

立即查看 了解详情