Enfrenté el mismo problema al instalar mysql2-0.3.21 en Mac pro.
La solución mencionada a continuación funcionó para mí (ejecute los 3 comandos mencionados a continuación en el terminal que apunta a la carpeta de su proyecto):
brew install mysql
gem install mysql2 -v '0.3.21' -- --srcdir=/usr/local/mysql/include
bundle install
