python的decimal或者叫Decimal,BigDecimal

前言

java 复制代码
	在python中进行小数计算时,很容易发生精度错误问题!!!!一定要注意!!!
	或者说,只要进行小数的运算都要用decimal。如:银企对账;工程计算等等
	在python有叫decimal的第三方库。在java中叫BigDecimal。万万不可混肴,学
术是要严谨的,实事求是的。
	下面演示一下错误的小数计算和使用decimal进行正确计算的代码。

错误示范

javascript 复制代码
a = 0
for i in range(100000):
    a = a + 1.33

print("不准确",a)

使用decimal的正确示范

javascript 复制代码
from decimal import Decimal, getcontext
print(getcontext().prec)  # 计算精度,默认是28
getcontext().prec = 100  # 可修改
a = Decimal("0")

for i in range(100000):
    a = a + Decimal("1.33")
print("准确", a)

注意

javascript 复制代码
	一定要注意,使用字符串的小数当作参数
相关推荐
赵文宇(温玉)15 分钟前
构建内网离线的“github.com“,完美解决内网Go开发依赖
开发语言·golang·github
qq74223498419 分钟前
Python操作数据库之pyodbc
开发语言·数据库·python
Joker1008520 分钟前
仓颉自定义序列化:从原理到高性能多协议实现
开发语言
Adellle23 分钟前
2.单例模式
java·开发语言·单例模式
散峰而望32 分钟前
C++入门(一)(算法竞赛)
c语言·开发语言·c++·编辑器·github
C_Liu_39 分钟前
13.C++:继承
开发语言·c++
张人玉41 分钟前
c#串口读写威盟士五插针
开发语言·c#·通讯
路长冬1 小时前
matlab与数字信号处理的不定期更新
开发语言·matlab·信号处理
2401_841495641 小时前
【自然语言处理】轻量版生成式语言模型GPT
人工智能·python·gpt·深度学习·语言模型·自然语言处理·transformer
卡卡酷卡BUG1 小时前
Java 后端面试干货:四大核心模块高频考点深度解析
java·开发语言·面试