tsucchi’s diary(元はてなダイアリー)

はてなダイアリー(d.hatena.ne.jp/tsucchi1022)から移行したものです

計算

お仕事の話。

仕事で使っているコンパイラで結構いろいろバグが出ているので、テストプログラムを一式作って試してみた。結局バグらしきものは出ず、私のテストプログラムのバグしか出なかった。

思ったのは、精度を落とさずに計算するのは難しい、ということ。小数の近似で桁が上がってしまってオーバーフローっていうのは、後から見れば明らかだけど、実行する前は意外と頭が回らない。

お客さんのプログラム、大丈夫かなぁ。ちと心配。