Probablemente tenga la ruta incorrecta para --with-pg-config , compruebe si realmente está allí.
Puede encontrar la ruta correcta a pg_config con:
find /Applications -name pg_config
En la última versión de Postgres.app, la ruta es:
gem install pg -- --with-pg-config=/Applications/Postgres.app/Contents/Versions/9.5/bin/pg_config
