kashiの日記

2016/05/21(土)カシオの関数電卓の奇妙な挙動

カシオの関数電卓をいじっていて、とても奇妙な挙動に気づいたので記録を残しておきます。使用したのはfx-5800Pという機種で、内部演算精度は10進数15桁です。結論から書くと、次のような現象を発見しました。

123456789123456 - 123456789121111 = 2345
123456789123456 - 123456789123111 = 345
123456789123456 - 123456789123411 = 0 (45でない!)

非常に近い2つの数同士の引き算を行なうと、「桁落ち」と呼ばれる有効数字の減少が発生します。これは有限精度の計算を行っている以上仕方のないことですが、どうやらこの関数電卓では、

「減算で桁落ちが発生した結果有効数字が2桁以下になったとき、その数を強制的に0に書き換える」

という仕様になっているようです。桁落ちが起きるような厳しい計算こそ高精度な電卓の助けが欲しいところなのに、そこでわざわざかろうじて残った情報を捨て去ってしまうというのは極めて不可解な仕様だと感じます。

この仕様で困ってしまう場面はいくらでもありそうですが、一つ例を作ってみました。2次方程式

0.9999996 x² - 2x + 1.0000004 = 0

の解をいわゆる2次方程式の解の公式で計算してみます。判別式の値は、

4 - 4 × 0.9999996 × 1.0000004
= 4 - 3.99999999999936
= 0.00000000000064
= 6.4 × 10^-13

ですが、この値が

4 - 3.99999999999936 = 0

となってしまいます。3.99999999999936を正しく格納できる仮数部を持っているにも関わらず、です。実にもったいない仕様だとは思いませんか。素直な10進数15桁の演算ならば、

sqrt(6.4 × 10^-13) = 8 × 10^-7
x₁ = (2 - 8×10^-7)/2/0.9999996 = 1
x₂ = (2 + 8×10^-7)/2/0.9999996 ≈ 1.000000800000032

のようにほぼ正確に計算できたはずなのに、

x₁ ≈ 1.00000040000016
x₂ ≈ 1.00000040000016

のような重解になってしまいます。また、手作業で解の公式を使って計算した場合のみならず、関数電卓に組み込まれた2次方程式ソルバーを使っても全く同じ計算結果が得られました。すなわち、ユーザに直接見える部分のみならず、内部の演算ルーチンそのものがこの仕様に蝕まれていることは確実と思われます。

この仕様はカシオfx-5800Pに特有のものなのか、他の機種にも見られるものなのか、ヨドバシカメラの関数電卓売り場の展示機を触って調べてみました。すると、

機種名	仮数部の桁数	桁落ち時に捨てられる桁数
カシオ fx-5800P/JP900/FD10Pro/375ES/72F	15	2
キヤノン F-789SG	18	2
キヤノン F-715SA	16	3
シャープ EL-509M	14	1

のようになりました。試した限りの全ての関数電卓で、桁数の違いこそあれこのような「過桁落ち」処理がなされているようです。全く理解できないのですが、どなたか事情をご存知なら教えて欲しいものです。

コメント（6件）

2016/05/01(日)emscriptenで遊んでみた

その他

emscriptenという、c/c++のコードをLLVMのバイトコードを経由してjavascriptに変換するコンバータがよく話題になっています。以前、kvライブラリをemscriptenで変換して動かしたというメールを頂いたことがあって、ずっと気になっていました。そこで、ちょっとインストールして遊んでみました。

インストールしたばかりのubuntu 16.04で試しました。しかし、

sudo apt install emscripten

で入れてもうまく動かない模様です。clang/llvmのバージョンの問題っぽいがよく分かりません。

そこで、本家の Download and install — Emscripten 1.36.1 documentation に従ってインストールしてみました。そこではポータブル版というroot権限なしで入れる方法が紹介されていました。その方が周辺ツールのバージョンに左右されなくてインストールが楽なのかな。

sudo apt install cmake

Portable Emscripten SDK for Linux and OS X (emsdk-portable.tar.gz) をダウンロードして展開し、その中にcdして

./emsdk update
./emsdk install latest
./emsdk activate latest

します。最後の作業で/home/kashi/.emscriptenが作られました。これでインストールは終了。使う前に

source emsdk_env.sh

でPATHの設定が必要です。

適当なc++のプログラムを作って、

emcc test.cc
node a.out.js

で動くのを確認しました。

次に、kvのプログラムを動かしてみました。問題はboostで、emscriptenでは外部ライブラリを使ったプログラムはそのままでは動きません。外部ライブラリもソースから変換する必要があります。kvの場合は幸いなことにboostはheader onlyの範囲でしか使っていませんので、大丈夫なはずです。自分は、

ln -s /usr/include/boost ホームのどこか

とリンクを張ってしまって、-Iにそれを指定してごまかしました。これが正しいかどうかは分かりません。また、javascriptの中ではfesetroundによる丸めの向きの変更は効かないので、そのままでは精度保証出来ません。kvは-DKV_NOHWROUNDを付けると丸めの向きの変更を行わずエミュレーションで方向付き丸めを行なう機能を持っており、それをつけるとちゃんと精度保証付きで計算してくれるようです。

emcc -I(kvの場所) -I(boostの場所) -DKV_NOHWROUND hoge.cc

みたいな感じです。kvのサンプルはmpfrを使ったもの以外は大体動きそうです。実行速度はちゃんと測ってませんがネイティブのC++の30倍程度でしょうか。htmlに変換してfirefoxに食わせた方がnode.jsより速いようにも見えました。

単なる遊びであってあまり意味はないですが、楽しいです。

コメント（0件）

検索条件

2016/05/21(土)カシオの関数電卓の奇妙な挙動

2016/05/01(日)emscriptenで遊んでみた