当前位置： 移动技术网 > IT编程>脚本编程>Python > Python 标准类库-数字和数学模块之decimal使用简介

Python 标准类库-数字和数学模块之decimal使用简介

2019年11月01日  | 移动技术网IT编程  | 我要评论

乌龟的饲养方法,魔猴网,超级恐怖鬼故事

标准类库-数字和数学模块之decimal使用简介

by:授客 qq：1033553122

例子

>>>from decimal import *

>>>getcontext()

context(prec=28, rounding=round_half_even, emin=-999999, emax=999999, capitals=1, clamp=0, flags=[], traps=[invalidoperation, divisionbyzero, overflow])

 

>>>decimal('5')/3

decimal('1.666666666666666666666666667')

 

>>>getcontext().prec = 6 # 设置精度，即最大小数位数

 

>>>decimal('5')/3

decimal('1.66667')

>>>getcontext().prec = 2

>>>decimal('5')/3

decimal('1.7')

>>>decimal('5')/decimal(3)

decimal('1.7')

 

>>>decimal('3.14')

decimal('3.14')

 

>>>decimal('3.14') * decimal(0.5)

decimal('1.570')

 

>>>decimal('3.1415926535')

decimal('3.1415926535')

 

>>>decimal('nan')

decimal('nan')

 

>>>decimal('-infinity')

decimal('-infinity')

 

结论：当且仅当“计算结果”小数位数超过getcontext()设置的精度时，才会舍去超过精度部分的小数位数

您可能感兴趣的文章:

如对本文有疑问，请在下面进行留言讨论，广大热心网友会与你互动！！ 点击进行留言回复

相关文章:

验证码：
最近更新的文章
大家感兴趣的文章
移动技术网