编程:单精度浮点型数据与双精度浮点型数据杂谈

单精度浮点型数据与双精度浮点型数据杂谈

文章目录

序言

  在编程计算中,浮点型数据的运算常常用到。嵌入式编程中对于数据的传输,一般是扩大N被取整,在应用程序中虽然可以被直接使用,但是我个人常常思考浮点型数据具体在内存中的表现形式。本文经过查询参考资料后,做为一篇记录型的文章。如果错误之处,还望指正。

浮点数据类型

  浮点型数据在编程中分为单精度浮点型数据与双精度浮点型数据。

  常用float和double表示。针对Matlab变成需注意单精度表示为single。

内存占用

  单精度浮点型数据在内存中通常占用4Byte空间,双精度占用8Byte空间

  浮点型数据在内存中的整数和小数部分分别在不同的bit上来表示:

    float:0~22 bit表示小数部分;23~30 bit表示整数部分;31 bit表示符号。

    double:0~51 bit表示小数部分;52~62 bit表示整数部分;63 bit表示符号

    注意:浮点型数据不存在无符号数

精度与取值范围

  float类型精度为10E-7;double类型精度为10E-16。

  需要注意的是:float:2^23 = 8388608,一共七位,这意味着最多能有7位有效数字,但绝对能保证的为6位,也即float的精度为6~7位有效数字; double:2^52 = 4503599627370496,一共16位,同理,double的精度为15~16位。

  同时受限于精度的影响,浮点型数据不可以直接用来判断某个条件的真或假(非)。

c 复制代码
float a=1.0
if(a == 1)
{
    printf("true");
}
else
{
    printf("false);
}

如上这种判断有可能会导致判断错误。正确方式应为

c 复制代码
float a=1.0
if(a-1.0 < 0.0000001)
{
    printf("true");
}
else
{
    printf("false);
}

  取值范围

  float:-3.40282E+308~-1.7549E-038 ; 1.17549E-038~3.40282E+308

  double:-1.79769E+308~ -2.22507E-308;

      2.22507E-308~1.79769E+308

相关推荐
qq_2842740530 分钟前
机械设计基础·滚动轴承全解(类型·代号·选型·寿命)+轮系与蜗杆蜗轮传动
笔记·学习·自动化·制造
ACP广源盛139246256735 小时前
硬件选型笔记:国产 PCIe Gen2.1 交换芯片 IX6024@ACP,工控与存量设备国产化改造方案评估
笔记·硬件架构·硬件工程·pcie·国产芯片
文人sec6 小时前
SQL基础入门笔记 | 从零基础到掌握核心查询语句
数据库·笔记·sql
摇滚侠8 小时前
《计算机是如何工作的:人人都能懂的计算机软硬件工作原理》第 9 章 机器码与汇编语言 阅读笔记 9
java·开发语言·笔记
xier_ran8 小时前
【infra之路】AI 编译器学习笔记(六):重拾 C++——lambda 与 MLIR 中的回调
c++·笔记·学习
志尊宝8 小时前
Vue3 零基础每日笔记(078):首屏加载速度优化汇总——清单化方案
笔记
ZZHow102411 小时前
Ascend C算子开发(高级)笔记
c++·人工智能·笔记·深度学习·华为云
PC2005-cloud12 小时前
Mysql学习笔记:InnoDB Cluster 集群从零搭建实战,基于 Docker 实现高可用读写分离架构
笔记·学习·mysql
小陈phd12 小时前
深入理解agent学习笔记(七)——动态提示词与Skills
笔记·学习
我命由我1234512 小时前
田野笔记极简理解
经验分享·笔记·学习·职场和发展·求职招聘·职场发展·学习方法