编程:单精度浮点型数据与双精度浮点型数据杂谈

单精度浮点型数据与双精度浮点型数据杂谈

文章目录

序言

在编程计算中,浮点型数据的运算常常用到。嵌入式编程中对于数据的传输,一般是扩大N被取整,在应用程序中虽然可以被直接使用,但是我个人常常思考浮点型数据具体在内存中的表现形式。本文经过查询参考资料后,做为一篇记录型的文章。如果错误之处,还望指正。

浮点数据类型

浮点型数据在编程中分为单精度浮点型数据与双精度浮点型数据。

常用float和double表示。针对Matlab变成需注意单精度表示为single。

内存占用

单精度浮点型数据在内存中通常占用4Byte空间,双精度占用8Byte空间

浮点型数据在内存中的整数和小数部分分别在不同的bit上来表示:

float:0~22 bit表示小数部分;23~30 bit表示整数部分;31 bit表示符号。

double:0~51 bit表示小数部分;52~62 bit表示整数部分;63 bit表示符号

注意:浮点型数据不存在无符号数

精度与取值范围

float类型精度为10E-7;double类型精度为10E-16。

需要注意的是:float:2^23 = 8388608,一共七位,这意味着最多能有7位有效数字,但绝对能保证的为6位,也即float的精度为6~7位有效数字; double:2^52 = 4503599627370496,一共16位,同理,double的精度为15~16位。

同时受限于精度的影响,浮点型数据不可以直接用来判断某个条件的真或假(非)。

c 复制代码
float a=1.0
if(a == 1)
{
    printf("true");
}
else
{
    printf("false);
}

如上这种判断有可能会导致判断错误。正确方式应为

c 复制代码
float a=1.0
if(a-1.0 < 0.0000001)
{
    printf("true");
}
else
{
    printf("false);
}

取值范围

float:-3.40282E+308~-1.7549E-038 ; 1.17549E-038~3.40282E+308

double:-1.79769E+308~ -2.22507E-308;

2.22507E-308~1.79769E+308

相关推荐
奥特曼_ it10 分钟前
【数据分析+机器学习】基于机器学习的招聘数据分析可视化预测推荐系统(完整系统源码+数据库+开发笔记+详细部署教程)✅
笔记·数据挖掘·数据分析
四维碎片1 小时前
QSettings + INI 笔记
笔记·qt·算法
zzcufo2 小时前
多邻国第5阶段17-18学习笔记
笔记·学习
BlackWolfSky2 小时前
鸿蒙中级课程笔记4—应用程序框架进阶1—Stage模型应用组成结构、UIAbility启动模式、启动应用内UIAbility
笔记·华为·harmonyos
中屹指纹浏览器2 小时前
指纹浏览器性能优化实操——多实例并发与资源占用管控
经验分享·笔记
了一梨3 小时前
SQLite3学习笔记5:INSERT(写)+ SELECT(读)数据(C API)
笔记·学习·sqlite
jrlong4 小时前
DataWhale大模型基础与量化微调task5学习笔记(第 3 章:大模型训练与量化_模型量化实战)
笔记·学习
Sarvartha4 小时前
Routing(路由与分支)学习笔记
笔记·学习
Yu_Lijing4 小时前
《图解HTTP》笔记与读后感(上)
网络·笔记·网络协议·http
Gain_chance5 小时前
23-学习笔记尚硅谷数仓搭建-ODS层业务全量表、增量表结构设计及数据装载脚本
数据仓库·hive·笔记·学习