Bazı nedenlerle ondalık nesne çarpıldığında kesinlik kaybeder. Bunun olması için bir sebep yok. Lütfen sedyeyi kontrol et ve beni aydınlat. python Onluk hassaslık
from decimal import *
getcontext().prec = 11
a = Decimal('5085.28725881485')
b = 1
print getcontext()
print 'a = '+str(a)
print 'b = '+str(b)
print 'a * b = '+str(a * b)
Ve çıkışı: Bu alakalı olmakla python2.6 kullanılan
Context(prec=11, rounding=ROUND_HALF_EVEN, Emin=-999999999, Emax=999999999, capitals=1, flags=[], traps=[DivisionByZero, InvalidOperation, Overflow])
a = 5085.28725881485
b = 1
a * b = 5085.2872588
emin olmaz. decimal.Decimal nesneleri oluştururken değilken, hesaplamaları gerçekleştirirken
Kesinliği 11 olarak ayarlıyorsunuz ve sonuçta 11 anlamlı rakam var. Sorun nedir? –
, noktadan sonra ortalama sayıları hassas değil mi? – marrat
Noktadan sonra hassas sayıyı sınırlamak için herhangi bir yol var mı? – marrat