Eso debería funcionar. ¿Has intentado mostrar eso, lo que produce tu CAST (fila COMO DECIMAL)?
Pegue el ejemplo de los datos que está tratando de ordenar. Tal vez tenga valores nulos allí o números que no caben en el tipo decimal.
¿Qué versión de mysql estás usando? Tal vez la razón sea esta (de la ayuda de mysql):
