Oracle存数字精度问题number、binary_double、binary_float类型

sql 复制代码
--表1 score是number(10,5)类型
create table TEST1
(
  score number(10,5)
);
--表2 score是binary_double类型
create table TEST2
(
  score binary_double
);
--表3 score是binary_float类型
create table TEST3
(
  score binary_float
);

实验一:分别往三张表插入 小数点前1位点后14位的数字7.23499999999999

sql 复制代码
--number(10,5)
insert into test values(7.23499999999999);
--binary_double
insert into test2 values(7.23499999999999);
--binary_float
insert into test3 values(7.23499999999999);

结果如下:

number(10,5) binary_double binary_float
7.23500 7.23499999999999 7.23500013

实验二:分别往三张表插入 小数点前2位点后14位的数字77.23499999999999

sql 复制代码
--number(10,5)
insert into test values(77.23499999999999);
--binary_double
insert into test2 values(77.23499999999999);
--binary_float
insert into test3 values(77.23499999999999);

结果如下:

number(10,5) binary_double binary_float
77.23500 77.235 77.23500006

总结

一、double类型的有效位有15位(小数点前+小数点后),若超过15位则存储到数据库时会四舍五入保存。

验证代码如下:

sql 复制代码
--binary_double
insert into test2 values(7.23499999999999);
insert into test2 values(77.23499999999999);
insert into test2 values(77.23411111111119);
描述 示例数字 结果
点前1位,点后14位,共15位 7.23499999999999 7.23499999999999
点前2位,点后14位,共16位 77.23499999999999 77.235
点前2位,点后14位,共16位 77.234111111111119 77.2341111111112
二、float类型的有效位是6位或7位(小数点前+小数点后,看具体数字决定了6位或7位)。当你的业务需求要求数字有效位<=6位,存入数据库字段类型是number类型(精度>=6位)、binary_double类型和bingary_float类型都是可以保证没有损失精度的。但当你的业务需求要求数字有效位>6位时,如果你使用binary_float类型就不能保证精度了。
三、计算过程中,绝对不能做有损失精度的进位、保存操作,否则也不能保证精度。
相关推荐
进阶的小木桩2 分钟前
mysql 安装问题解决方案记录
数据库·mysql
2601_9620715744 分钟前
如何利用SpringSecurity进行认证与授权
java·服务器·数据库
山峰哥1 小时前
数据库工程与查询优化案例深度复盘‌
数据库·sql·oracle·编辑器·深度优先·宽度优先
IT大白鼠1 小时前
MSF数据库与资产管理——专业渗透测试流程
数据库·安全·msf
IvorySQL1 小时前
PostgreSQL 日报|内核多项缺陷修复与数据校验补丁推进(8 月 27 日)
数据库·postgresql·区块链
风吹心凉1 小时前
Agent大脑-RAG知识库
数据库
VALENIAN瓦伦尼安教学设备1 小时前
设备状态检测振动分析实训台案例分析
大数据·数据库·人工智能·嵌入式硬件·算法
黄俊懿2 小时前
【架构师从入门到进阶】第五章:DNS&CDN&网关优化思路——第十节:网关安全-单向加密
网络·数据库·计算机网络·安全·架构·系统架构·架构师
garmin Chen2 小时前
redis面试题
java·数据库·redis·缓存
小小龙学IT2 小时前
Qt 元对象系统(Meta-Object System)深度解析:从 MOC 到反射式编程
数据库·qt