carácter no válido para comillas simples para cadena sql en java

Tienes que escapar de las comillas en los literales de cadenas de Java:

.append(" CONCAT('\"',REPLACE(s.direccion,',',' '),'\"') as Street, '\"\"' as Street2,")