dd - kashiの日記

2014/03/19(水)dd

ddで、DBL_MAX/3がNaNになる現象を発見。dd計算はまだ細かいところが甘いな。
z=x/yを計算し、その誤差を拾うためにz*yをtwoproductで計算するのだが、
xがオーバーフロー寸前なのでこの計算がオーバーフローしてしまう。
直すのめんどいな。

ddは最初から近似計算だから許されるとしても、interval + dd + rddは精度保証を謳っているのだから、
(NaNなら嘘を言っているわけでは無いにしても)これはまずい。