lua除法bug

故事背景,新来了一个数值,要改公式。神奇的一幕出现了,公式算出一个非常大的数。排查是lua有一个除法bug,1除以大数得到一个非常大的数。

Lua 复制代码
function div(a, b)
    return tonumber(string.format("%.2f", a/b))
end
print(1/73003)
print(div(1,73003))
print(1/10)
print(div(1,10))

需要用lua的除法,建议封装一下函数,不然出现神奇的bug。

相关推荐
编程小白202610 分钟前
从 C++ 基础到效率翻倍:Qt 开发环境搭建与Windows 神级快捷键指南
开发语言·c++·windows·qt·学习
像风一样的男人@35 分钟前
python --读取psd文件
开发语言·python·深度学习
输出输入37 分钟前
前端核心技术
开发语言·前端
加油,小猿猿37 分钟前
Java开发日志-双数据库事务问题
java·开发语言·数据库
薛定谔的猫喵喵43 分钟前
天然气压力能利用系统综合性评价平台:基于Python和PyQt5的AHP与模糊综合评价集成应用
开发语言·python·qt
独好紫罗兰1 小时前
对python的再认识-基于数据结构进行-a004-列表-实用事务
开发语言·数据结构·python
gjxDaniel1 小时前
Objective-C编程语言入门与常见问题
开发语言·objective-c
choke2331 小时前
[特殊字符] Python异常处理
开发语言·python
云中飞鸿1 小时前
linux中qt安装
开发语言·qt
少控科技1 小时前
QT第6个程序 - 网页内容摘取
开发语言·qt