浮動小数点演算での精度の損失を解決する方法
説明
通常、223.2-223=0.2ですが、Dr.Roboで計算すると結果は0.19999999999998863になります。
問題の原因
根本的な原因は、Pythonで浮動小数点演算を行う際に精度の損失が発生することです。
解決方法
decimal モジュール(標準ライブラリのため、個別にインストールする必要はありません)を使用することで、このような誤差を回避できます。
from decimal import Decimal
def main(args):
a = Decimal('223.2')
b = Decimal('223')
print(a-b)
# 出力結果
0.2