🚀 go-pugleaf

Marcin 'Qrczak' Kowalczyk claimed:
> Wed, 25 Dec 2002 17:10:15 GMT, moozg <moozg@k2studio.com.pl> pisze:
> 
>> Ale jesli wywoluje funkcje tak: round(32.26351263561, 2) co ma
>> zaokraglic liczbe do dwoch miejsc za przecinkiem otrzymuje cos
>> takiego:  31.969999999999999
> 
> Bo 31.97 nie jest reprezentowalne w typie double w C,

Bzdura:
Po pierwsze:
31,97 = $1F.61 = $1.F61 * 16.

Znak: 0
Cecha: $F61
Mantysa: 4

Więc chyba 64 bity starczą ? :)

Po drugie:
#v+
   /* Number of decimal digits of precision in a double */
#define DBL_DIG 15
#v-
(cytat z float.h). Czyli każda liczba o mniej niż 15 cyfrach po przecinku
jest w double reprezentowana DOKŁADNIE.

> czyli też w typie
> float w Pythonie. To, co dostajesz, jest najlepszym przybliżeniem.

Python ma jakieś niejasne zasady precyzji artmetyki. Ktoś wie jakie ?

> Po przetłumaczeniu na ułamek dziesiętny widać, że to ciut mniej
> niż 31.97; następna reprezentowalna wartość jest ciut większa niż
> 31.97. Więc co chcesz uzyskać? Dokładna liczba 31.97 w typie float
> nie istnieje.

Taak ?
#v+
   /* Number of decimal digits of precision in a float */
#define FLT_DIG 6
#v-

> str pokazuje o jedną mniej cyfr niż repr, więc str od Twojej liczby
> da '31.97'. Więc nie przejmuj się, że jak się ją wpisze w prompcie,
> to widać więcej cyfr (to jest wyświetlane przez repr).

Fajnie by było wiedzieć jaką logiką kieruje się tutaj python.

-- 
    [ http://www.stringi.com/viper/ ] 
  All good things come to those who wait