Article View: pl.comp.lang.asm
Article #1106Re: FPU i zaokrąglanie
From: Damian 'legion' Szuberski
Date: Thu, 03 May 2007 10:19
Date: Thu, 03 May 2007 10:19
21 lines
1784 bytes
1784 bytes
On 2007-05-03, Bernard wrote: >> Kiedy nie robię żadnego zaokrąglania wynikiem jest 66.3000030517578125 >> Kiedy zaokrąglam ale nie dzielę przez 100 - 6630.00 (prawidłowo) >> Kiedy zaokrąglam i dzielę przez 100 dostaję z powrotem >> 66.3000030517578125... :/ >> >> Dla innych danych jest to odpowiednio: >> 73.09999847412109375 >> 7310.00 >> 73.09999847412109375 >> >> Nie bardzo wiem jak to wytłumaczyć. Gdzie może tkwić błąd? > Wytłumaczyć to można samą istotą zapisu zmiennopozycyjnego, który jest z > natury przybliżony, a błędu zapewne nie ma nigdzie. W takim razie czy istnieje jakiś sposób na bezbolesne przesunięcie przecinka w lewo o 2 miejsca? Wydaje mi się że przy takich liczbach (7310 i 100) FPU powinien być dokładny przy dzieleniu bo sprowadza się to do operacji na cechach i ewentualnej normalizacji mantysy. -- Damian Szuberski
Technical Details
Message-ID:
<f1cd0b$v0l$1@news.onet.pl>Path:
mbox-mo1.pugleaf.net!news-archive.icm.edu.pl!newsfeed.gazeta.pl!news.onet.pl!not-for-mailReferences:
<f1atbo$8q1$1@news.onet.pl> <f1b42l$6sl$1@inews.gazeta.pl> <f1b8rl$1vn$1@news.onet.pl> <46397830$0$13176$f69f905@mamut2.aster.pl>Show Full Headers
Complete Article Headers
Path: mbox-mo1.pugleaf.net!news-archive.icm.edu.pl!newsfeed.gazeta.pl!news.onet.pl!not-for-mail From: Damian 'legion' Szuberski <legion@wmid.amu.edu.cutthisjunk.pl> Newsgroups: pl.comp.lang.asm Subject: Re: FPU i zaokrąglanie Date: Thu, 3 May 2007 10:19:55 +0000 (UTC) Organization: Onet.pl Lines: 21 Message-ID: <f1cd0b$v0l$1@news.onet.pl> References: <f1atbo$8q1$1@news.onet.pl> <f1b42l$6sl$1@inews.gazeta.pl> <f1b8rl$1vn$1@news.onet.pl> <46397830$0$13176$f69f905@mamut2.aster.pl> NNTP-Posting-Host: bastion.campus.luth.se Mime-Version: 1.0 X-Trace: news.onet.pl 1178187595 31765 130.240.201.225 (3 May 2007 10:19:55 GMT) X-Complaints-To: usenet@news.onet.pl NNTP-Posting-Date: Thu, 3 May 2007 10:19:55 +0000 (UTC) X-Sender: r9wfgjZVbN1wMLpeEh7o81UXY43M1DYm User-Agent: slrn/0.9.8.1 (Linux) Content-Type: text/plain; charset=UTF-8 Content-Transfer-Encoding: 8bit