2009-02-23から1日間の記事一覧

「0.2」は0.2より大きいか?

浮動小数点数(IEEE 754)の話。倍精度で0.2は0.2より大きいだろうか。 print "%.17f" % 0.2 # 0.20000000000000001すなわち、0.2より大きい。 0.2は内部ではどう表現されているだろうか。0.2を倍倍にしていってはじめて1以上になるのは、0.2->0.4->0.8->1.6…