Eliminación de la duplicación en la instrucción dinámica ROW_NUMBER() OVER ORDER BY

Una forma de hacerlo sería definir el alias de la columna en un nivel diferente para que pueda hacer referencia a él dos veces sin repetir la expresión.

SELECT *,
       Row_number() OVER (ORDER BY 
                 CASE WHEN @SortBy LIKE '% ASC' THEN sort_col END ASC, 
                 CASE WHEN @SortBy LIKE '% DESC' THEN sort_col END DESC) AS RowNumber
FROM   YourTable
       CROSS APPLY (SELECT CASE
                             WHEN @SortBy LIKE 'column1 %' THEN Cast(column1 AS SQL_VARIANT)
                             WHEN @SortBy LIKE 'column2 %' THEN Cast(column2 AS SQL_VARIANT)
                             WHEN @SortBy LIKE 'column3 %' THEN Cast(column3 AS SQL_VARIANT)
                             WHEN @SortBy LIKE 'column4 %' THEN Cast(column4 AS SQL_VARIANT)
                           END) C(sort_col) 

Sin embargo, consideraría usar SQL dinámico para esto. Este tipo de consulta general acabará con la idea de obtener un buen plan que pueda usar índices para evitar una ordenación.