Bueno, parece que su campo de nombre no es único. Su subconsulta coincide con más de una fila, por lo que debe encontrar una identificación única para que coincida con otra que no sea el nombre, o bien, si solo desea tomar el primer resultado de la subconsulta, haga esto:
UPDATE TABLE1 SET ID = (SELECT TABLE2.ID FROM TABLE2, TABLE1
WHERE TABLE1.NAME=TABLE2.NAME LIMIT 1) WHERE TABLE1.ID IS NULL
