Deberá dividir su ORDER BY en múltiples CASE declaraciones:
ORDER BY
CASE WHEN @orderby = 0 THEN news_edits.[time] END DESC,
CASE WHEN @orderby = 1 THEN news_edits.lastedit END DESC,
CASE WHEN @orderby = 2 THEN news_edits.title END DESC
Esto se debe a que CASE único requiere que todas las ramas tengan tipos de datos compatibles. Dado que su cadena de caracteres en un CASE no se puede convertir a la fecha y hora devuelta por otro CASE , obtienes el error de conversión.