当前位置： 移动技术网 > IT编程>脚本编程>Python > Python decimal模块使用方法详解

Python decimal模块使用方法详解

2020年06月14日  | 移动技术网IT编程  | 我要评论

不正当关系番外,吞食天地2nd正式版,河南专升本成绩查询

decimal 模块：decimal意思为十进制，这个模块提供了十进制浮点运算支持

1.可以传递给decimal整型或者字符串参数，但不能是浮点数据，因为浮点数据本身就不准确。

2.要从浮点数据转换为decimal类型

from decimal import *
decimal.from_float(12.222)
# 结果为decimal('12.2219999999999995310417943983338773250579833984375')

3.通过设定有效数字，限定结果样式

from decimal import *
getcontext().prec = 6
decimal(1)/decimal(7)
# 结果为decimal('0.142857')，六个有效数字

4.四舍五入，保留几位小数

from decimal import *
decimal('50.5679').quantize(decimal('0.00'))
# 结果为decimal('50.57')，结果四舍五入保留了两位小数

5.decimal 结果转化为string

from decimal import *
str(decimal('3.40').quantize(decimal('0.0')))
# 结果为'3.4'，字符串类型

python3中decimal处理计算精度问题示例

#!/usr/bin/python3
# coding:utf-8
import decimal
from decimal import decimal, getcontext

def demo():
  """
  取整问题：
  round_ceiling 总是趋向无穷大向上取整
　　round_down　总是趋向0取整
　　round_floor 总是趋向负无穷大向下取整
　　round_half_down　如果最后一个有效数字大于或等于5则朝0反方向取整；否则，趋向0取整
　　round_half_even　类似于round_half_down，不过，如果最后一个有效数字值为5，则会检查前一位。
          偶数值会导致结果向下取整，奇数值导致结果向上取整
　　round_half_up 类似于round_half_down，不过如果最后一位有效数字为5，值会朝0的反方向取整
　　round_up　朝0的反方向取整
　　round_05up　如果最后一位是0或5，则朝0的反方向取整；否则向0取整
  """

  # 1.常规计算
  getcontext().prec = 9
  r1 = decimal(1) / decimal(3)
  print("r1 ", r1) # r1 0.333333333

  # 2.但是getcontext().prec会包含小数点前面的所有长度，当前面长度有变化时并不能固定控制小数点后的位数
  r2 = decimal(10) / decimal(3)
  print("r2 ", r2) # r2 3.33333333

  # 3.想要固定控制小数点后面的位数则需要使用decimal.quantize(decimal('0.00000000'))，注意不能超过getcontext().prec的位数
  r3 = decimal(1) / decimal(3)
  print("r3 ", r3.quantize(decimal('0.00000000'))) # r3 0.33333333
  r4 = decimal(10) / decimal(3)
  print("r4 ", r4.quantize(decimal('0.00000000'))) # r4 3.33333333
  r5 = decimal(10) / decimal(str(1.5))
  print("r5 ", r5.quantize(decimal('0.00000000'))) # r5 6.66666667

  # 4.向上取整
  getcontext().rounding = getattr(decimal, 'round_ceiling') # 总是趋向无穷大向上取整
  r6 = decimal(10) / decimal(str(1.5)) # r6 6.66666667
  print("r6 ", r6.quantize(decimal('0.00000000')))
  r7 = decimal(10) / decimal(3) # r7 3.33333334
  print("r7 ", r7.quantize(decimal('0.00000000')))

  # 5.向下取整
  getcontext().rounding = getattr(decimal, 'round_floor') # 总是趋向无穷大向下取整
  r8 = decimal(10) / decimal(str(1.5)) # r8 6.66666666
  print("r8 ", r8.quantize(decimal('0.00000000')))
  r9 = decimal(10) / decimal(3) # r9 3.33333333
  print("r9 ", r9.quantize(decimal('0.00000000')))

if __name__ == '__main__':
  demo()

以上就是本文的全部内容，希望对大家的学习有所帮助，也希望大家多多支持移动技术网。

您可能感兴趣的文章:

如对本文有疑问，请在下面进行留言讨论，广大热心网友会与你互动！！ 点击进行留言回复

相关文章:

验证码：
最近更新的文章
大家感兴趣的文章
移动技术网