sql >> Base de Datos >  >> RDS >> Sqlserver

Cálculo del tipo de datos flotante de SQL Server frente a decimal

Flotante tiene una precisión de 15 cifras significativas solamente (en SQL Server).

Esto se demuestra con 1.52415693411713 E+17 donde 1.52415693411713 (15 dígitos) es lo más preciso posible. El último 020... después de 152415693411713 con STR es inventado es la resolución del punto flotante

Para mantener la precisión, no use float. Es así de simple. CAST a decimal si lo desea para el cálculo, pero si CAST vuelve a flotar, son limitado a 15 dígitos

Consulte "Lo que todo científico informático debe saber sobre la aritmética de punto flotante "