Está ejecutando MySQL en un contenedor diferente como un servicio al que conectarse. El maven:3.5-jdk-8 la imagen no contiene el mysql-client paquete que invoca usando mysql .
Así que para resolverlo; instale el mysql-client en su comando anterior:
before_script:
- apt-get update -q && apt-get install -qqy --no-install-recommends mysql-client
- mysql --user=root --password=\"$MYSQL_ROOT_PASSWORD\" --host=mysql < src/main/sql/database.sql