浮動小数点演算での精度の損失を解決する方法

この記事の内容
  1. 説明
  2. 問題の原因
  3. 解決方法

説明

通常、223.2-223=0.2ですが、Dr.Roboで計算すると結果は0.19999999999998863になります。

問題の原因

根本的な原因は、Pythonで浮動小数点演算を行う際に精度の損失が発生することです。

解決方法

decimal モジュール(標準ライブラリのため、個別にインストールする必要はありません)を使用することで、このような誤差を回避できます。

from decimal import Decimal

def main(args):

    a = Decimal('223.2')
    b = Decimal('223')

    print(a-b)

# 出力結果
0.2
よくある質問の記事一覧ページの先頭へ ↑