¿Tengo que contar las transacciones antes de revertir una en el bloque catch en T-SQL?

De hecho, nunca comienzo una nueva transacción si ya estoy en una.

Esto trata con procesos almacenados anidados, TXN distribuidos y TransactionScope

Recuerde, hay no hay tal cosa como una transacción anidada en SQL Server de todos modos.

DECLARE @StartTranCount int

BEGIN TRY
    SET @StartTranCount = @@TRANCOUNT
    IF @StartTranCount = 0 BEGIN TRAN
        -- my code
    IF @StartTranCount = 0 COMMIT TRAN
END TRY
BEGIN CATCH
    IF @StartTranCount = 0 AND @@trancount > 0
    BEGIN
        ROLLBACK TRAN
        DECLARE @message NVARCHAR(MAX)
        DECLARE @state INT
        SELECT @message = ERROR_MESSAGE(), @state = ERROR_STATE()
        RAISERROR (@message, 11, @state)
    END
    /*
    or just
    IF @StartTranCount = 0 AND @@trancount  
        ROLLBACK TRAN
    */
END CATCH