¿Cómo conectarse a mongodb usando docker-compose?

Puedes hacer algo como lo siguiente:

version: '3'

services:
  mongo:
    image: 'mongo:3.4.1'
    ports:
      - '27017:27017'
    volumes:
      - 'mongo:/data/db'

  puma:
    tty: true
    stdin_open: true
    depends_on:
      - 'mongo'
    build:
      context: .
      dockerfile: Dockerfile.puma
    command: bundle exec rails s -p 3000 -b '0.0.0.0'
    ports:
      - '3000:3000'
    volumes:
      - '.:/app'
    environment:
      - SECRET_KEY_BASE=secret
      - MONGO_URL=mongodb://mongo:27017/app_development
volumes:
  mongo:

Como habrás notado, puedes conectarte al servicio mongo que se ejecuta en mongo contenedor de otros contenedores ubicados en el mismo docker-compose.yml archivo usando la cadena de conexión como mongodb://mongo:27017 .

En caso de que quiera conectarse desde el host, puede usar mongodb://localhost:27017 si ha expuesto el puerto mongo como se muestra arriba.