SQL Server 2005数值精度损失

正如浮点类型的加法不准确一样，如果超出精度，则十进制类型的乘积可能不准确（或导致不准确）。请参阅数据类型转换以及十进制和数字。

由于您将NUMERIC(24,8)和相乘NUMERIC(24,8)，并且SQL Server将仅检查类型而不是内容，因此当它无法保存所有48位精度（最大为38）时，它可能会尝试保存潜在的16位非十进制数字（24-8） ）。将它们中的两个结合起来，您将获得32个非十进制数字，仅剩下6个十进制数字（38-32）。

因此原始查询

SELECT A, B, C, A + B * C
FROM ( SELECT CAST(0.12345678 AS NUMERIC(24,8)) AS A,
  CAST(0 AS NUMERIC(24,8)) AS B,
  CAST(500 AS NUMERIC(24,8)) AS C ) T

减少到

SELECT A, B, C, A + D
FROM ( SELECT CAST(0.12345678 AS NUMERIC(24,8)) AS A,
  CAST(0 AS NUMERIC(24,8)) AS B,
  CAST(500 AS NUMERIC(24,8)) AS C,
  CAST(0 AS NUMERIC(38,6)) AS D ) T

同样，在NUMERIC(24,8)和之间NUMERIC(38,6)，SQL Server将尝试保存潜在的32位非十进制数字，因此A + D减少为

SELECT CAST(0.12345678 AS NUMERIC(38,6))

它给你0.123457四舍五入后。