El problema era que mi host es la aplicación heroku, pero las solicitudes provenían del dominio personalizado.
Para resolver:
heroku config:set RAILS_HOST "http://www.example.com"
Y luego en production.rb:
config.action_cable.url = "wss://#{ENV['RAILS_HOST']}/cable"