Debe publicar el puerto apropiado en el contenedor con -p argumento, es decir:
docker run -p 27017:27017 -v "$(pwd)":/data --name mongo -d mongo mongod --smallfiles
Hará accesible el puerto 27017 en el host (la VM en su caso) y reenviará el tráfico al puerto 27017 en el contenedor.
