lua除法bug

故事背景,新来了一个数值,要改公式。神奇的一幕出现了,公式算出一个非常大的数。排查是lua有一个除法bug,1除以大数得到一个非常大的数。

Lua 复制代码
function div(a, b)
    return tonumber(string.format("%.2f", a/b))
end
print(1/73003)
print(div(1,73003))
print(1/10)
print(div(1,10))

需要用lua的除法,建议封装一下函数,不然出现神奇的bug。

相关推荐
liuyao_xianhui41 分钟前
四数之和_优选算法(C++)双指针法总结
java·开发语言·c++·算法·leetcode·职场和发展
blank@l1 小时前
Python类和对象----实例属性,类属性(这是我理解类和对象最透彻的一次!!)
开发语言·python·python接口自动化基础·python类和对象·python实例属性·python类属性·类属性和实例属性的区别
超奇电子1 小时前
高斯包络调制正弦波的Python代码
开发语言·python
Siren_dream1 小时前
python进阶_Day2
开发语言·python
珹洺1 小时前
Java-Spring入门指南(十二)SpringAop的三种实现方式
java·开发语言·spring
做运维的阿瑞1 小时前
使用 Python 打造一个轻量级系统信息查看器
开发语言·后端·python·系统架构
磨十三1 小时前
C++ 中的类型双关、union 与类型双关:让一块内存有多个“名字”
开发语言·c++
chao_7892 小时前
Union 和 Optional 区别
开发语言·数据结构·python·fastapi
hsjkdhs2 小时前
C++之类的组合
开发语言·c++·算法
疯狂的Alex2 小时前
【C#避坑实战系列文章16】性能优化(CPU / 内存占用过高问题解决)
开发语言·性能优化·c#