コメント
このコメントは、【現状報告】星間戦争制作状況20・0.2...へのコメントです。コメントの内容
コメントの内容(一番最初の投稿)
aoihikawa(投稿日:2014/07/20 16:07/20/14)
プログラム系では有名な
浮動小数点演算の誤差(丸め誤差)による問題ですね
これは、コンピュータというものの仕組みが
全てのデータを2進数で扱っているため、
小数点以下の値は正確に表せない場合が
あることからきています
例えば、10進数の0.1は、
2進数に直すと0.000110011001100110011・・・と
無限に続いてしまいます
しかし、データの格納には限度がありますから、
ある程度のところで切ってしまうわけです
ここに誤差の原因が生じます
そのため、一般的な対処法として
10の倍数をかけて計算し元に戻す、または
予めデータ上の100を表示上の1として扱う、などの
工夫をする場合があります
浮動小数点演算の誤差(丸め誤差)による問題ですね
これは、コンピュータというものの仕組みが
全てのデータを2進数で扱っているため、
小数点以下の値は正確に表せない場合が
あることからきています
例えば、10進数の0.1は、
2進数に直すと0.000110011001100110011・・・と
無限に続いてしまいます
しかし、データの格納には限度がありますから、
ある程度のところで切ってしまうわけです
ここに誤差の原因が生じます
そのため、一般的な対処法として
10の倍数をかけて計算し元に戻す、または
予めデータ上の100を表示上の1として扱う、などの
工夫をする場合があります
浮動小数点演算の誤差(丸め誤差)による問題ですね
これは、コンピュータというものの仕組みが
全てのデータを2進数で扱っているため、
小数点以下の値は正確に表せない場合が
あることからきています
例えば、10進数の0.1は、
2進数に直すと0.000110011001100110011・・・と
無限に続いてしまいます
しかし、データの格納には限度がありますから、
ある程度のところで切ってしまうわけです
ここに誤差の原因が生じます
そのため、一般的な対処法として
10の倍数をかけて計算し元に戻す、または
予めデータ上の100を表示上の1として扱う、などの
工夫をする場合があります