MongoDB no es un acelerador de consultas mágicas. Su sitio no soportará una carga 10 veces mayor solo porque cambia a mongo.
A juzgar por sus números, sospecho que se estaba produciendo una saturación de recursos. MySQL ciertamente puede hacer mucho más que 500 QPS.
¿Sabes cuál fue tu cuello de botella? Apuesto a que tiene mucha menos RAM de la necesaria, los datos deben obtenerse del disco y el disco se satura. En este punto, ningún técnico de DB lo ayudará, a menos que obtenga más hierro (o elimine algunos datos).
En cuanto al peor rendimiento de mongo, es difícil saberlo sin los detalles.