SQL Server 2005: Float değişkeni

Question

kullanırsanız Round yanlış değerini döndürür SQL Server 2005'te, float değişkeninde depolanan bir değeri yuvarlamaya çalıştığımda hatalı değerler alıyorum. Aşağıdaki örnekte, ROUND işlevine yapılan her iki çağrının da, 5.6:

DECLARE @foo float; 
DECLARE @bar float; 
DECLARE @baz float; 

SET @foo = 5.55; 
SET @bar = ROUND(@foo, 1) --> 5.5 
SET @baz = ROUND(5.55, 1) --> 5.6 

Niçin yanlış yapıyorum?

Answer 1

decimal değerleri için float veri türünü kullanmanızı önermem.

Bu özel durumda

, bir decimal için @foo değişkeni dönüştürebilirsiniz:

SET @bar = ROUND(CAST(@foo as DECIMAL(10,2)), 1) --> 5.6 

What Every Computer Scientist Should Know About Floating-Point Arithmetic