Article View: pl.comp.lang.asm
Article #1105Re: FPU i zaokrąglanie
From: Bernard
Date: Thu, 03 May 2007 07:29
Date: Thu, 03 May 2007 07:29
15 lines
1430 bytes
1430 bytes
Damian 'legion' Szuberski wrote: > Kiedy nie robię żadnego zaokrąglania wynikiem jest 66.3000030517578125 > Kiedy zaokrąglam ale nie dzielę przez 100 - 6630.00 (prawidłowo) > Kiedy zaokrąglam i dzielę przez 100 dostaję z powrotem > 66.3000030517578125... :/ > > Dla innych danych jest to odpowiednio: > 73.09999847412109375 > 7310.00 > 73.09999847412109375 > > Nie bardzo wiem jak to wytłumaczyć. Gdzie może tkwić błąd? Wytłumaczyć to można samą istotą zapisu zmiennopozycyjnego, który jest z natury przybliżony, a błędu zapewne nie ma nigdzie.
Technical Details
Message-ID:
<46397830$0$13176$f69f905@mamut2.aster.pl>Path:
mbox-mo1.pugleaf.net!news-archive.icm.edu.pl!newsfeed.gazeta.pl!news.astercity.net!news.aster.pl!not-for-mailReferences:
<f1atbo$8q1$1@news.onet.pl> <f1b42l$6sl$1@inews.gazeta.pl> <f1b8rl$1vn$1@news.onet.pl>Show Full Headers
Complete Article Headers
Path: mbox-mo1.pugleaf.net!news-archive.icm.edu.pl!newsfeed.gazeta.pl!news.astercity.net!news.aster.pl!not-for-mail Date: Thu, 03 May 2007 09:29:14 +0200 From: Bernard <bernard@earth.net> User-Agent: Thunderbird 2.0.0.0 (Windows/20070326) MIME-Version: 1.0 Newsgroups: pl.comp.lang.asm Subject: Re: FPU i zaokrąglanie References: <f1atbo$8q1$1@news.onet.pl> <f1b42l$6sl$1@inews.gazeta.pl> <f1b8rl$1vn$1@news.onet.pl> In-Reply-To: <f1b8rl$1vn$1@news.onet.pl> X-Antivirus: avast! (VPS 000738-0, 2007-05-03), Outbound message X-Antivirus-Status: Clean Lines: 15 Message-ID: <46397830$0$13176$f69f905@mamut2.aster.pl> NNTP-Posting-Date: 03 May 2007 05:50:41 GMT NNTP-Posting-Host: 82.210.165.187 X-Trace: 1178171441 mamut2.aster.pl 13176 82.210.165.187:1183 Content-Type: text/plain; charset=UTF-8 Content-Transfer-Encoding: 8bit