<div dir="ltr">







<p class="">Hey all RabbitMQ devs and experts,</p>
<p class="">Iím looking for a validation of an approach, or a better suggestion on how to accomplish.<br></p>
<p class="">The big picture is that we want to improve how we upgrade our clusters without interruptions in service. I know RabbitMQ supports running mixed versions within a cluster, but for us, upgrade may also mean bringing down a node for reconfiguration, an Erlang upgrade, or any other number of scenarios.<br>
</p>
<p class="">Today we do controlled switchover of load from one RabbitMQ cluster to another, and then switch it back. We use two clusters (a master and an alternate). Both clusters are identically configured with two RabbitMQ instances, i.e ďmasterĒ is node1,node2, and ďalternateĒ is node3,node4.<br>
</p>
<p class="">All queues are mirrored. We direct traffic to the master or alternate via a VIP.<br></p>
<p class="">Today our upgrade process looks like this:</p><p class="">--------</p>
<p class="">* master is operation normally, and pointed to by the VIP.</p>
<p class="">* Shut down both alternate nodes, upgrade them in whatever manner is necessary. Newer version, more ram, whatever.</p>
<p class="">* Start up alternate cluster, then create the same set of queues on it as the master has.</p>
<p class="">* Redirect the VIP to point to the alternate.</p>
<p class="">* Clients see a connection drop because of the VIP change, but are tolerant and auto-reconnect.</p>
<p class="">* Copy all queue contents from the masterís queues to the alternateís same-named queues.</p>
<p class="">* Shut down the master nodes and upgrade them.</p>
<p class="">* Perform similar steps as above to move the VIP and messages back to the master.</p>
<p class="">--------</p>
<p class="">While this generally works, there are small but important problems with it. One problem is that some of our queues are created/deleted. I have seen scenarios where unfortunate timing can cause a queue to not be on the right cluster at the right moment.</p>

<p class="">Looking at newer RabbitMQ features, in particular policy based mirroring control, Iím thinking something like this would be better:<br></p>
<p class="">-------</p><p class="">* Have node1/node2 running along normally, with the VIP pointing at it.<br></p><p class="">* Start up node3/node4 in the same cluster</p>
<p class="">* Use policy to make all queues mirrored by all four nodes. Use synch_queue as necessary to force synchronization in a reasonable time frame.</p>
<p class="">* When all queues are synched, remove node1/node2 from the cluster and upgrade them.</p>
<p class="">* Because our VIP is managed by keepalived, either node3 or node4 will obtain the VIP when node1/node2 are removed.</p>
<p class="">--------</p><p class="">The advantage of this is that it eliminates queue location timing windows and we donít have to manually copy messages around. The only downside Iím aware of is that it wonít work when upgrading major/minor versions. That is, it should be fine from 3.4.3 to 3.4.7, but not 3.4 to 3.5. In that case, we'd use our original upgrade logic.</p>

<p class="">Thoughts? Suggestions? Better ideas?</p>
<p class="">Thanks,</p>
<p class=""><br></p>
<p class="">Matt</p></div>