Orden personalizado de SQL por

El mensaje de error explica perfectamente el problema.

En el primer ejemplo, ORDER BY ítem -- CASE WHEN ... END -- no aparece en SELECT lista.

En el segundo ejemplo, ORDER BY ítem -- a.QuestionID -- aparece en SELECT lista.

Para corregir el primer ejemplo, deberá hacer algo como esto:

SELECT DISTINCT a.QuestionID, a.QuestionName, b.AnswerID, b.AnswerName,
                CASE WHEN a.QuestionName = 'A' THEN 0
                     WHEN a.QuestionName = 'B' THEN 1
                     ELSE a.QuestionID
                END
FROM @TempExportList AS a
    JOIN tblAnswers AS b
        ON a.QuestionID = b.QuestionID
WHERE a.PaperID = @PaperID
ORDER BY CASE WHEN a.QuestionName = 'A' THEN 0
              WHEN a.QuestionName = 'B' THEN 1
              ELSE a.QuestionID
         END