sudo gem install pg no funcionará

Debe instalar su paquete distro ruby-dev (o devel), de lo contrario no podrá crear ninguna extensión de ruby ​​C.

No estoy en ubuntu, pero el comando del administrador de paquetes podría ser algo así:

$ sudo apt-get install ruby-dev build-essential