lua除法bug

故事背景,新来了一个数值,要改公式。神奇的一幕出现了,公式算出一个非常大的数。排查是lua有一个除法bug,1除以大数得到一个非常大的数。

Lua 复制代码
function div(a, b)
    return tonumber(string.format("%.2f", a/b))
end
print(1/73003)
print(div(1,73003))
print(1/10)
print(div(1,10))

需要用lua的除法,建议封装一下函数,不然出现神奇的bug。

相关推荐
沐知全栈开发2 分钟前
Foundation 网格实例
开发语言
专注前端30年22 分钟前
【JavaScript】every 方法的详解与实战
开发语言·前端·javascript
速易达网络24 分钟前
Java Web登录系统实现(不使用开发工具)
java·开发语言·前端
凡间客43 分钟前
Python编程之常用模块
开发语言·python
景彡先生43 分钟前
Python基础语法规范详解:缩进、注释与代码可读性
开发语言·前端·python
悟能不能悟1 小时前
java重构旧代码有哪些注意的点
java·开发语言·重构
歪歪1001 小时前
如何在Qt中使用VS的调试功能
运维·开发语言·网络·qt·网络协议·visual studio
筏.k2 小时前
C++ 设计模式系列:生产者-消费者模式完全指南
开发语言·c++·设计模式
liliangcsdn2 小时前
python如何写数据到excel示例
开发语言·python·excel
workflower5 小时前
单元测试-例子
java·开发语言·算法·django·个人开发·结对编程