読者です 読者をやめる 読者になる 読者になる

万年素人からHackerへの道

万年素人がHackerになれるまで殴り書きするぜ。

浮動小数点型の誤差 C#

小数(浮動小数点数型)の計算が思った結果にならない理由と解決法: .NET Tips: C#, VB.NET

         if(0.1f + 0.2f == 0.3f)
            {
                Debug.Log("ok");
            }

一応ok

・17桁表示

         Debug.Log((0.1f).ToString("G17"));
0.100000001
            Debug.Log((0.2f).ToString("G17"));
0.200000003
            Debug.Log((0.1f + 0.2f).ToString("G17"));
0.300000012
            Debug.Log((0.3f).ToString("G17"));
0.300000012

fなしのやつは。

         if(0.1 + 0.2 == 0.3)
            {
                Debug.Log("ok");
            }

Double型だ

var o = 0.1;
Debug.Log(o.GetType());