検索条件
全6件
(1/2ページ)
-DAFFINE_SIMPLE=1のようにコンパイル時に指定すると動作を変えることが出来ます。1がdefaultで、他に遅いけどより精密な0、速いけど精度が悪い2があります。ここに2を指定したときの乗算で、変数の初期化忘れのせいで計算が正常に行えていませんでした。2は全くダミー変数を増やさないaffine arithmeticであまり使うことはないと思われますが、「計算結果の精度保証に影響を及ぼすバグ」はあってはならないものであり、そういうバグを見つけたときは速やかにアップデートすると決めています。
-digamma(1) = γ (0.5772...=オイラー定数)らしいので、オイラー定数の精度保証もついでに出来たことになる?