python的decimal或者叫Decimal,BigDecimal

前言

java 复制代码
	在python中进行小数计算时,很容易发生精度错误问题!!!!一定要注意!!!
	或者说,只要进行小数的运算都要用decimal。如:银企对账;工程计算等等
	在python有叫decimal的第三方库。在java中叫BigDecimal。万万不可混肴,学
术是要严谨的,实事求是的。
	下面演示一下错误的小数计算和使用decimal进行正确计算的代码。

错误示范

javascript 复制代码
a = 0
for i in range(100000):
    a = a + 1.33

print("不准确",a)

使用decimal的正确示范

javascript 复制代码
from decimal import Decimal, getcontext
print(getcontext().prec)  # 计算精度,默认是28
getcontext().prec = 100  # 可修改
a = Decimal("0")

for i in range(100000):
    a = a + Decimal("1.33")
print("准确", a)

注意

javascript 复制代码
	一定要注意,使用字符串的小数当作参数
相关推荐
kszlgy2 小时前
Day 52 神经网络调参指南
python
wrj的博客4 小时前
python环境安装
python·学习·环境配置
Pyeako4 小时前
深度学习--BP神经网络&梯度下降&损失函数
人工智能·python·深度学习·bp神经网络·损失函数·梯度下降·正则化惩罚
星火开发设计4 小时前
C++ 数组:一维数组的定义、遍历与常见操作
java·开发语言·数据结构·c++·学习·数组·知识
TTGGGFF5 小时前
控制系统建模仿真(一):掌握控制系统设计的 MAD 流程与 MATLAB 基础运算
开发语言·matlab
2501_944424125 小时前
Flutter for OpenHarmony游戏集合App实战之贪吃蛇食物生成
android·开发语言·flutter·游戏·harmonyos
摘星编程5 小时前
OpenHarmony环境下React Native:Geolocation地理围栏
python
充值修改昵称5 小时前
数据结构基础:从二叉树到多叉树数据结构进阶
数据结构·python·算法
Lhuu(重开版6 小时前
JS:正则表达式和作用域
开发语言·javascript·正则表达式
仙俊红6 小时前
Java Map 家族核心解析
java·开发语言