C# float/double 减 float/double 等 (X.xxxxxxxxxxxxxE-07)(黑盒测试)

问题

因为没有深究原理,所有只进行了"黑盒测试"

黑盒测试结论:

|----------------|----------------------|------------------------------------------------------------------------------|
| 问题 | 操作 | 结论 |
| float/double运算 | 进过一系列的运算后 | 大概率 != 0.0 , 而是等于0.00000000000xxxx |
| | 等于X.xxxxxxxx一串数字的时候 | 不影响下一步继续使用 |
| | 当需要显示float/double的时候 | 进行一次 "保留N位运算" Mach.Round(float, n) String.Format("{0:F2}", 1.0f); // 结果 1.00 |

代码

cs 复制代码
 void ChangeFormat()
    {
        double aaa = 2.2f;
        double bbb = 2.0f;
        double ccc = aaa - bbb;

        // double ddd = ccc - 0.2d;
        // double ddd = 2.2f - 2.0f - 0.2d; // 这个与上方的结果一样
        double ddd = 2.2d - 2.0d - 0.2; // 这个与上方的结果一样
        string str1 = String.Format("{0:F2}", ddd);

        Debug.Log(ddd);                 // 结果 1.66533453693773E-16
        Debug.Log(ddd + 0.001d);        // 结果 0.00100000000000017
        Debug.Log(Math.Round(ddd, 2));  // 结果 0
        Debug.Log((int)ddd);            // 结果 0
        Debug.Log(str1);                // 结果 0.00


        // 测试:4.76837158092103E-07 是否大于 0
        if (ddd > 0)
        {
            Debug.Log("得到: 1.66533453693773E-16  > 0");
        }


        // ddd + 0.001f 为什么 +0.001
        // 因为:经过测试得 1.66533453693773E-16 == 0
        // 所以:+0.001, 还原显示数值 (一般只要小数两位)
    }

输出结果

相关推荐
Dm_dotnet6 分钟前
WPF应用绑定系统快捷键
c#
.NET修仙日记7 分钟前
SQL Server实战指南:从基础CRUD到高并发处理的完整面试题库
面试·职场和发展·c#·.net·sql server·.net全栈经典面试题库
武文斌772 小时前
项目学习总结:CAN总线、摄像头、STM32概述
linux·arm开发·stm32·单片机·嵌入式硬件·学习·c#
sali-tec2 小时前
C# 基于halcon的视觉工作流-章46-不匀面划痕
人工智能·算法·计算机视觉·c#
数字化顾问3 小时前
从 DAG 到 Shuffle:掌握 Spark RDD 宽窄依赖的调优密码
c#·linq
Happy coder5 小时前
【avalonia教程】11字符串格式化、avalonia自带绑定值的转换
c#·avalonia
Panda__Panda12 小时前
docker项目打包演示项目(数字排序服务)
运维·javascript·python·docker·容器·c#
weixin_4569042712 小时前
基于.NET Framework 4.0的串口通信
开发语言·c#·.net
Tiger_shl13 小时前
C# 预处理指令 (# 指令) 详解
开发语言·c#
sali-tec14 小时前
C# 基于halcon的视觉工作流-章45-网格面划痕
开发语言·算法·计算机视觉·c#