Puede deshacerse de ellos codificando explícitamente para que pueda usar errors="replace" o ignore Los bytes resultantes no serán bonitos, pero se registrarán.
logging.error("Exception: " + str(ex.args[1].encode(encoding='charmap', errors='replace')))