Ejecute la expresión matemática y establezca el valor en variable en SQL

Usar consulta parametrizada con sp_executesql procedimiento:

DECLARE @val1 VARCHAR(20)= '500';
DECLARE @val2 VARCHAR(20)= '300';
DECLARE @Oper VARCHAR(20)= '>';

DECLARE @query NVARCHAR(MAX);

DECLARE @Flag INT= 0;

SET @query = 'if ' + @val1 + @Oper + @val2 + ' set @Flag=1';

DECLARE @ParamDefs NVARCHAR(MAX) = N'@Flag int output'

EXEC sp_executesql @query, @ParamDefs, @Flag OUTPUT

PRINT @Flag;

También se corrigieron algunos errores:

1. declare @val1 varchar=100; El tamaño predeterminado será 1 y @val1 se inicializa con * no 100 . Consulte Por qué cast/convert from int devuelve un asterisco para más detalles.
2. No es necesario enviar a int dentro de la consulta dinámica.