<div dir="ltr">On our systems, we've seen consistent 400/sec on some queues. During a heavy data load roughly 2500/sec per queue (these are short lived usually).  Usually at that point flow control kicks in as our consumers can't quite keep up.  We use x-consistent-hashes to get around network latency and shovel each queue in a hash.  SO publishers publish to a fanout queue with a random routing key, which is bound to an x-consistent-hash exchange bound to 8 queues.  Each of the 8 queues is shoveled independently with a 1500 prefetch.  We've not been able to overload this mechanism easily - the drive IO is typically our limiting factor.  Or the consumers as stated on the remote side.  And that's because we're doing persistent messages, publisher confirms, and a whole lot of checks to make sure we don't ever lose anything.<div>
<br></div><div>Jason</div></div><div class="gmail_extra"><br><br><div class="gmail_quote">On Sat, Mar 1, 2014 at 10:22 AM, Laing, Michael <span dir="ltr"><<a href="mailto:michael.laing@nytimes.com" target="_blank">michael.laing@nytimes.com</a>></span> wrote:<br>
<blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex"><div dir="ltr">Our volumes are quite variable on the shovels, representing a high overall degree of variability in our message volumes.<div>
<br></div><div>Just looking over the last 24 hours, shovel volume ranged from 25/sec to 2,500/sec on our Oregon core cluster.</div>
<div><br></div><div>Best,</div><div><br></div><div>Michael</div></div><div class="HOEnZb"><div class="h5"><div class="gmail_extra"><br><br><div class="gmail_quote">On Fri, Feb 28, 2014 at 1:14 PM, Ben Hood <span dir="ltr"><<a href="mailto:0x6e6562@gmail.com" target="_blank">0x6e6562@gmail.com</a>></span> wrote:<br>

<blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex">Michael,<br>
<div><br>
On Fri, Feb 28, 2014 at 12:45 PM, Laing, Michael<br>
<<a href="mailto:michael.laing@nytimes.com" target="_blank">michael.laing@nytimes.com</a>> wrote:<br>
> So I turned to shovels for more simplicity and control at the expense of<br>
> more difficult configuration.<br>
<br>
</div>Yes, it is quite a low level tool, but I guess sometimes your<br>
requirements are intricate enough to need to reach down to the lower<br>
layer.<br>
<div><br>
> Some of our core clusters support the 'retail' layer of instances that<br>
> gateway to clients (candles?). We are introducing federation into one of<br>
> these communication links because we want the propagation of client bindings<br>
> from the gateway instance to the core - an excellent feature of federation<br>
> and an important refinement for us.<br>
<br>
</div>Using federation to implement an AMQP gateway seems like a common<br>
pattern. One wonders why it didn't go into the AMQP spec ....<br>
<div><br>
> Initially I had thought that the 'new' federation replaced the 'old' shovel,<br>
> but this is not true - each tool has its place although their capabilities<br>
> overlap.<br>
><br>
> With easier configuration in 3.3, the lowly shovel may get its due!<br>
<br>
</div>It's interesting to see that the shovel still lives on, despite it<br>
being quite an agricultural component. What sort of message volumes<br>
are you guys processing with this, BTW?<br>
<br>
Thanks for being so detailed about your experiences, it's much appreciated.<br>
<br>
Cheers,<br>
<br>
Ben<br>
<div><div>_______________________________________________<br>
rabbitmq-discuss mailing list<br>
<a href="mailto:rabbitmq-discuss@lists.rabbitmq.com" target="_blank">rabbitmq-discuss@lists.rabbitmq.com</a><br>
<a href="https://lists.rabbitmq.com/cgi-bin/mailman/listinfo/rabbitmq-discuss" target="_blank">https://lists.rabbitmq.com/cgi-bin/mailman/listinfo/rabbitmq-discuss</a><br>
</div></div></blockquote></div><br></div>
</div></div><br>_______________________________________________<br>
rabbitmq-discuss mailing list<br>
<a href="mailto:rabbitmq-discuss@lists.rabbitmq.com">rabbitmq-discuss@lists.rabbitmq.com</a><br>
<a href="https://lists.rabbitmq.com/cgi-bin/mailman/listinfo/rabbitmq-discuss" target="_blank">https://lists.rabbitmq.com/cgi-bin/mailman/listinfo/rabbitmq-discuss</a><br>
<br></blockquote></div><br><br clear="all"><div><br></div>-- <br><div dir="ltr">Jason McIntosh<br><a href="https://github.com/jasonmcintosh/" target="_blank">https://github.com/jasonmcintosh/</a><br>573-424-7612</div>
</div>