¿Hay alguna opción para limitar el uso de memoria mongodb?

Si está ejecutando MongoDB 3.2 o una versión posterior, puede limitar el wiredTiger caché como se mencionó anteriormente.

En /etc/mongod.conf agrega el wiredTiger parte

...
# Where and how to store data.
storage:
  dbPath: /var/lib/mongodb
  journal:
    enabled: true
  wiredTiger:
    engineConfig:
        cacheSizeGB: 1
...

Esto limitará el tamaño del caché a 1 GB , más información en Doc

Esto resolvió el problema para mí, ejecutando ubuntu 16.04 y mongoDB 3.2

PD:después de cambiar la configuración, reinicie el demonio mongo.

$ sudo service mongod restart

# check the status
$ sudo service mongod status