技术栈
ieee754
Thanks_ks
7 天前
java
·
python
·
数值计算
·
精度丢失
·
bigdecimal
·
浮点数
·
ieee754
从 0.1+0.2 不等于 0.3 说起:聊聊浮点数精度问题
几乎每个写代码的人都撞见过它:0.1 加 0.2,结果不等于 0.3,而是多出一长串莫名其妙的尾巴。我第一次注意到时,先怀疑解释器出了 bug,再怀疑系统坏了,最后发现真正该修正的是自己的直觉。换语言没有用,JavaScript、Java、C++,换到哪里结果都一样——这背后本来就没有 bug,只有一套运行了几十年的标准在忠实地工作。
搬砖魁首
10 个月前
人工智能
·
密码学
·
浮点数
·
ieee754
密码学的数学基础3-浮点数在计算机中的的实现
浮点数的实现是计算机科学中的一个重要概念,广泛应用于科学计算、图形处理和许多其他领域。浮点数允许表示非常大或非常小的数字,并支持小数运算。下面是浮点数实现的主要原理和步骤:
Nelson_hehe
2 年前
计算机组成原理
·
补码
·
ieee754
·
考研408
·
移码
考研系列-计算机组成原理第二章:数据的表示和运算
手算过程硬件细节ACC值和MQ值会逻辑左移,以达到做减法后补零的效果。ACC内存储的是被除数、余数(作为下一次除操作的被除数)
choumin
2 年前
c语言
·
float精度
·
ieee754
C语言中32位浮点数的格式
以 GNU C为例,它遵循 IEEE 754-2008标准中制定的浮点表示规范。在该规范中定义了 5种不同大小的基础二进制浮点格式,包括:16位,32位,64位,128位,256位。其中,32位的格式被用作标准 C类型的 float,64位的格式被用作标准 C类型的 double,128位的格式被用作标准 C类型的 long double。
我是有底线的