[C#] 浮動小数点数には誤差がつきものだ-ウンコード・マニア

matsukawar 2012-08-14 05:01:11

[C#] 浮動小数点数には誤差がつきものだ

計算過程で生じる、計算誤差をつねに考慮しなければならない

double dValue1 = 0.00000000001 + 1000000000.0;
if (dValue1 == 1000000000.0)
{
  //...
}

#1 shinoyu 2012-08-14 16:13:23

おとなしくMath.Round()つかおうよ(´・ω・`)

#2 k5n6 2012-08-15 04:04:09

引き算した結果の絶対値が一定のしきい値以下なら同じとみなす、という感じの処理を書かないとだめだよね。

それは、Getterだろ。副作用が無いメ...

public string SetItemId()
{
  return t...

結合試験２日前に脱退したうんｋプログラマ...

return 0;

そもそも使うなって言われてる理由わかって...

#define ZERO 0
#define ONE 1
// (以下略