lua除法bug

故事背景,新来了一个数值,要改公式。神奇的一幕出现了,公式算出一个非常大的数。排查是lua有一个除法bug,1除以大数得到一个非常大的数。

Lua 复制代码
function div(a, b)
    return tonumber(string.format("%.2f", a/b))
end
print(1/73003)
print(div(1,73003))
print(1/10)
print(div(1,10))

需要用lua的除法,建议封装一下函数,不然出现神奇的bug。

相关推荐
程序大视界5 小时前
【Python系列课程】Pandas(四):数据统计与排序——describe、sort_values、sample
开发语言·python·pandas
KWTXX5 小时前
使用matlab官网的skills调用claude-待完成
开发语言·matlab
Cthy_hy6 小时前
Python算法竞赛:排列组合核心用法
开发语言·python·算法
大圣编程6 小时前
面向对象深度理解
java·开发语言·算法
爱喝水的鱼丶6 小时前
SAP-ABAP:SAP 简单报表输出开发系列(共6篇) 第四篇:SAP 报表异常处理机制:数据校验与消息提示规范落地
开发语言·数据库·学习·算法·sap·abap
影寂ldy6 小时前
C# const 常量 / readonly 只读 / static readonly
java·开发语言·c#
iCxhust6 小时前
c#多串口重量采集上位机程序
开发语言·汇编·c#·微机原理·8088单板机
QK_007 小时前
volatile 关键字核心作用
开发语言
Dxy12393102167 小时前
Python Tensor 向量入门:从零理解深度学习的“数据语言“
开发语言·python·深度学习