Tu resultado en ACOS() es mayor que 1 que no puede ser.
Eso se debe a la inexactitud del punto flotante. podría ser 1.00000001 por ejemplo. Poniéndolo un poco por debajo de 1 funciona así:
SELECT ACOS(
(SIN(PI()* 52.9519918465976/180.0)* SIN(PI()* 52.9519918465976/180.0))
+ (COS(PI()* 52.9519918465976/180)*cos(PI()* 52.9519918465976/180.0)*COS(PI()* -1.14304013581239/180.0-PI()* -1.14304013581239/180.0))
- 0.0000001
)