De alguna manera no logré ejecutar la consulta con CAST . Siempre obtenía Error Code: 1064 near "DECIMAL" (u otro tipo numérico que yo elija). Entonces, encontré otra forma de ordenar varchar como números:
SELECT *
FROM mytable
ORDER BY ABS(mycol)
Un poco más simple y funciona en mi caso.
