浮動小数点カウンター
次のような(疑似)コード
i=0.1
while i<1.0
i=i+0.1
print i
を計算機で実行すると、i=1.0になっても停止せず、結果は約1.1が出力される。
その理由を答えよ。
http://d.hatena.ne.jp/elb_phys/20060126#1138259799
意外と微妙なのか。
次のような(疑似)コード
i=0.1
while i<1.0
i=i+0.1
print i
を計算機で実行すると、i=1.0になっても停止せず、結果は約1.1が出力される。
その理由を答えよ。
http://d.hatena.ne.jp/elb_phys/20060126#1138259799
意外と微妙なのか。