Tienes que anular tu ; delimitador con algo como $$ para evitar este tipo de error.
Después de la definición de su función, puede volver a establecer el delimitador en ; .
Esto debería funcionar:
DELIMITER $$
CREATE FUNCTION F_Dist3D (x1 decimal, y1 decimal)
RETURNS decimal
DETERMINISTIC
BEGIN
DECLARE dist decimal;
SET dist = SQRT(x1 - y1);
RETURN dist;
END$$
DELIMITER ;