Por lo que está viendo en algún lugar en la región de 100 000 millones de registros (1 millón de registros * 100 000 usuarios).
La forma preferida de manejar grandes cantidades de datos es crear un clúster fragmentado que divida los datos en varios servidores que se presentan como una sola unidad lógica a través del cliente mongo.
Por lo tanto, la respuesta a su pregunta es poner todos sus registros en una sola colección fragmentada.
La cantidad de fragmentos necesarios y la configuración del clúster están relacionados con el tamaño de los datos y otros factores, como la cantidad y distribución de lecturas y escrituras. Las respuestas a esas preguntas probablemente sean muy específicas para su situación única, por lo que no intentaré adivinarlas.
Probablemente comenzaría decidiendo cuántos fragmentos tiene el tiempo y las máquinas disponibles para configurar y probar el sistema en un grupo de tantas máquinas. Según el rendimiento de eso, puede decidir si necesita más o menos fragmentos en su clúster
