Si está buscando un DBMS de muy alto rendimiento y no necesita que sea relacional, puede considerar Cassandra, aunque sus ventajas solo entran en juego si tiene un clúster de base de datos en lugar de un solo nodo.
No dijiste qué límites hay en la arquitectura física. Mencionaste la fragmentación, lo que implica un clúster. Los clústeres IIRC MySQL también admiten la fragmentación.
También sería muy útil saber qué nivel de concurrencia pretende admitir el sistema y cómo se agregarían los datos (por goteo o por lotes).
Usted dice "Obviamente, no puedo precalcular ninguno de los resultados de agregación porque las combinaciones de filtros (y, por lo tanto, los conjuntos de resultados) son enormes".
Este es su mayor problema y será el factor más importante para determinar el rendimiento de su sistema. Claro, no puede mantener vistas materializadas de todas las combinaciones posibles, pero su mayor ganancia de rendimiento será mantener vistas agregadas previamente limitadas y crear un optimizador que pueda encontrar la coincidencia más cercana. No es tan difícil.
C.
