python的decimal或者叫Decimal,BigDecimal

前言

java 复制代码
	在python中进行小数计算时,很容易发生精度错误问题!!!!一定要注意!!!
	或者说,只要进行小数的运算都要用decimal。如:银企对账;工程计算等等
	在python有叫decimal的第三方库。在java中叫BigDecimal。万万不可混肴,学
术是要严谨的,实事求是的。
	下面演示一下错误的小数计算和使用decimal进行正确计算的代码。

错误示范

javascript 复制代码
a = 0
for i in range(100000):
    a = a + 1.33

print("不准确",a)

使用decimal的正确示范

javascript 复制代码
from decimal import Decimal, getcontext
print(getcontext().prec)  # 计算精度,默认是28
getcontext().prec = 100  # 可修改
a = Decimal("0")

for i in range(100000):
    a = a + Decimal("1.33")
print("准确", a)

注意

javascript 复制代码
	一定要注意,使用字符串的小数当作参数
相关推荐
陈天伟教授1 小时前
人工智能训练师认证教程(2)Python os入门教程
前端·数据库·python
陈文锦丫1 小时前
MQ的学习
java·开发语言
2301_764441331 小时前
Aella Science Dataset Explorer 部署教程笔记
笔记·python·全文检索
爱笑的眼睛111 小时前
GraphQL:从数据查询到应用架构的范式演进
java·人工智能·python·ai
BoBoZz191 小时前
ExtractSelection 选择和提取数据集中的特定点,以及如何反转该选择
python·vtk·图形渲染·图形处理
liwulin05061 小时前
【PYTHON-YOLOV8N】如何自定义数据集
开发语言·python·yolo
青蛙大侠公主2 小时前
Thread及其相关类
java·开发语言
爱吃大芒果2 小时前
Flutter 主题与深色模式:全局样式统一与动态切换
开发语言·javascript·flutter·ecmascript·gitcode
云栖梦泽2 小时前
易语言数据库操作:结构化数据管理的核心
开发语言
木头左2 小时前
LSTM量化交易策略中时间序列预测的关键输入参数分析与Python实现
人工智能·python·lstm