Su archivo de fuente de datos debe tener:
"host": "database"
...
ya que en docker-compose.yml vincula el contenedor mongo al loopback como database , por lo que no es localhost . Recuerde, está intentando conectarse a mongo desde el contenedor docker loopback. También debe asegurarse de que mongo se inicie antes del loopback, así que agregue depends_on: database al servicio de loopback en docker-compose.yml.