| ページ一覧 | ブログ | twitter |  書式 | 書式(表) |

MyMemoWiki

差分

ナビゲーションに移動 検索に移動
85 バイト追加 、 2020年2月15日 (土) 08:05
編集の要約なし
==Python Decimal==
[[Python]][[http://python.secsup.org/?p=138 Python Osmosis]]
===Decimal===
****************************************************************
>>> >>> from decimal import * >>> >>> Decimal('0.70') * Decimal('1.05')
Decimal('0.7350')
>>> >>> .70 * 1.05
0.73499999999999999
>>> >>> Decimal('1.00') % Decimal('.10')
Decimal('0.00')
>>> >>> 1.00 % 0.10
0.09999999999999995
>>> >>> sum([Decimal('0.1')] * 10) == Decimal('1.0')
True
>>> >>> sum([0.1] * 10) == 1.0
False
>>> >>> getcontext().prec = 36 >>> >>> Decimal(1) / Decimal(7)
Decimal('0.142857142857142857142857142857142857')

案内メニュー