ieee754

Thanks_ks7 天前
java·python·数值计算·精度丢失·bigdecimal·浮点数·ieee754
从 0.1+0.2 不等于 0.3 说起:聊聊浮点数精度问题几乎每个写代码的人都撞见过它:0.1 加 0.2,结果不等于 0.3,而是多出一长串莫名其妙的尾巴。我第一次注意到时,先怀疑解释器出了 bug,再怀疑系统坏了,最后发现真正该修正的是自己的直觉。换语言没有用,JavaScript、Java、C++,换到哪里结果都一样——这背后本来就没有 bug,只有一套运行了几十年的标准在忠实地工作。
搬砖魁首10 个月前
人工智能·密码学·浮点数·ieee754
密码学的数学基础3-浮点数在计算机中的的实现浮点数的实现是计算机科学中的一个重要概念,广泛应用于科学计算、图形处理和许多其他领域。浮点数允许表示非常大或非常小的数字,并支持小数运算。下面是浮点数实现的主要原理和步骤:
Nelson_hehe2 年前
计算机组成原理·补码·ieee754·考研408·移码
考研系列-计算机组成原理第二章:数据的表示和运算手算过程硬件细节ACC值和MQ值会逻辑左移,以达到做减法后补零的效果。ACC内存储的是被除数、余数(作为下一次除操作的被除数)
choumin2 年前
c语言·float精度·ieee754
C语言中32位浮点数的格式以 GNU C为例,它遵循 IEEE 754-2008标准中制定的浮点表示规范。在该规范中定义了 5种不同大小的基础二进制浮点格式,包括:16位,32位,64位,128位,256位。其中,32位的格式被用作标准 C类型的 float,64位的格式被用作标准 C类型的 double,128位的格式被用作标准 C类型的 long double。
我是有底线的