Puede deshacerse de ellos codificando explícitamente para que pueda usar errors="replace"
o ignore
Los bytes resultantes no serán bonitos, pero se registrarán.
logging.error("Exception: " + str(ex.args[1].encode(encoding='charmap', errors='replace')))