Si desea reemplazar todos los signos de dólar, use esto:
update test1
set name = replace(name, '$', '');
Si desea reemplazar el $ solo al comienzo del valor puede usar substr() y un where cláusula para cambiar solo aquellas filas donde la columna realmente comienza con un $
update test1
set name = substr(name, 2)
where name like '$%';