Eliminar elemento de matriz jsonb por valor

Use jsonb_set() y el operador de eliminación - :

update catalog
set properties = 
    jsonb_set(properties, '{attributes}', (properties->'attributes') - 'is_new');

Pruébelo en db<>fiddle.