lua除法bug

故事背景,新来了一个数值,要改公式。神奇的一幕出现了,公式算出一个非常大的数。排查是lua有一个除法bug,1除以大数得到一个非常大的数。

Lua 复制代码
function div(a, b)
    return tonumber(string.format("%.2f", a/b))
end
print(1/73003)
print(div(1,73003))
print(1/10)
print(div(1,10))

需要用lua的除法,建议封装一下函数,不然出现神奇的bug。

相关推荐
shjita几秒前
记录java执行中的一个错误细节
java·开发语言
AI进化营-智能译站7 分钟前
ROS2 C++开发系列14-Lambda表达式处理传感器数据流|文件IO保存机器人实验日志
开发语言·c++·ai·机器人
itzixiao13 分钟前
L1-067 洛希极限(10分)[java][python]
java·开发语言·算法
l1t24 分钟前
DeepSeek总结的DuckDB anofox-forecast季节调整时间序列预测插件功能
开发语言·数据库
xyq202425 分钟前
SVG 阴影
开发语言
好奇龙猫27 分钟前
[大学院ーpython-base learning3: python and recommendation system ]
开发语言·python
澈20729 分钟前
C++引用与指针:核心区别全解析
开发语言·数据结构·c++
沐知全栈开发32 分钟前
Scala Iterator(迭代器)
开发语言
篮子里的玫瑰36 分钟前
Python与网络爬虫——字典与集合
开发语言·python
良木生香36 分钟前
【C++初阶】STL——Vector从入门到应用完全指南(1)
开发语言·c++·神经网络·算法·计算机视觉·自然语言处理·数据挖掘