コメント

このコメントは、【現状報告】星間戦争制作状況20・0.2...へのコメントです。

コメントの内容

Cdv30200 aoi icon mini aoihikawa(投稿日:2014/07/20 16:07/20/14)
プログラム系では有名な
浮動小数点演算の誤差(丸め誤差)による問題ですね


これは、コンピュータというものの仕組みが
全てのデータを2進数で扱っているため、
小数点以下の値は正確に表せない場合が
あることからきています


例えば、10進数の0.1は、
2進数に直すと0.000110011001100110011・・・と
無限に続いてしまいます

しかし、データの格納には限度がありますから、
ある程度のところで切ってしまうわけです

ここに誤差の原因が生じます


そのため、一般的な対処法として
10の倍数をかけて計算し元に戻す、または
予めデータ上の100を表示上の1として扱う、などの
工夫をする場合があります

コメントの内容(一番最初の投稿)

Cdv30200 aoi icon mini aoihikawa(投稿日:2014/07/20 16:07/20/14)
プログラム系では有名な
浮動小数点演算の誤差(丸め誤差)による問題ですね


これは、コンピュータというものの仕組みが
全てのデータを2進数で扱っているため、
小数点以下の値は正確に表せない場合が
あることからきています


例えば、10進数の0.1は、
2進数に直すと0.000110011001100110011・・・と
無限に続いてしまいます

しかし、データの格納には限度がありますから、
ある程度のところで切ってしまうわけです

ここに誤差の原因が生じます


そのため、一般的な対処法として
10の倍数をかけて計算し元に戻す、または
予めデータ上の100を表示上の1として扱う、などの
工夫をする場合があります