lua除法bug

故事背景,新来了一个数值,要改公式。神奇的一幕出现了,公式算出一个非常大的数。排查是lua有一个除法bug,1除以大数得到一个非常大的数。

Lua 复制代码
function div(a, b)
    return tonumber(string.format("%.2f", a/b))
end
print(1/73003)
print(div(1,73003))
print(1/10)
print(div(1,10))

需要用lua的除法,建议封装一下函数,不然出现神奇的bug。

相关推荐
2501_9454248015 分钟前
C++编译期矩阵运算
开发语言·c++·算法
yy我不解释19 分钟前
关于comfyui的mmaudio音频生成插件时时间不一致问题(三)
开发语言·python·ai作画·音视频·comfyui
2301_8154829321 分钟前
C++中的类型标签分发
开发语言·c++·算法
SuperEugene21 分钟前
Vue3 模板语法规范实战:v-if/v-for 不混用 + 表达式精简,避坑指南|Vue 组件与模板规范篇
开发语言·前端·javascript·vue.js·前端框架
xushichao198926 分钟前
代码生成优化技术
开发语言·c++·算法
leaves falling35 分钟前
C++类和对象(1)
开发语言·c++
2401_8732046540 分钟前
模板编译期循环展开
开发语言·c++·算法
神舟之光1 小时前
Java面向对象编程知识补充学习-2026.3.21
java·开发语言·学习
奶人五毛拉人一块1 小时前
C++入门学习
开发语言·c++·函数重载·入门·nullptr
吃不饱的得可可1 小时前
protobuf万字总结(C++)
开发语言·c++