Oracle存数字精度问题number、binary_double、binary_float类型

sql 复制代码
--表1 score是number(10,5)类型
create table TEST1
(
  score number(10,5)
);
--表2 score是binary_double类型
create table TEST2
(
  score binary_double
);
--表3 score是binary_float类型
create table TEST3
(
  score binary_float
);

实验一:分别往三张表插入 小数点前1位点后14位的数字7.23499999999999

sql 复制代码
--number(10,5)
insert into test values(7.23499999999999);
--binary_double
insert into test2 values(7.23499999999999);
--binary_float
insert into test3 values(7.23499999999999);

结果如下:

number(10,5) binary_double binary_float
7.23500 7.23499999999999 7.23500013

实验二:分别往三张表插入 小数点前2位点后14位的数字77.23499999999999

sql 复制代码
--number(10,5)
insert into test values(77.23499999999999);
--binary_double
insert into test2 values(77.23499999999999);
--binary_float
insert into test3 values(77.23499999999999);

结果如下:

number(10,5) binary_double binary_float
77.23500 77.235 77.23500006

总结

一、double类型的有效位有15位(小数点前+小数点后),若超过15位则存储到数据库时会四舍五入保存。

验证代码如下:

sql 复制代码
--binary_double
insert into test2 values(7.23499999999999);
insert into test2 values(77.23499999999999);
insert into test2 values(77.23411111111119);
描述 示例数字 结果
点前1位,点后14位,共15位 7.23499999999999 7.23499999999999
点前2位,点后14位,共16位 77.23499999999999 77.235
点前2位,点后14位,共16位 77.234111111111119 77.2341111111112
二、float类型的有效位是6位或7位(小数点前+小数点后,看具体数字决定了6位或7位)。当你的业务需求要求数字有效位<=6位,存入数据库字段类型是number类型(精度>=6位)、binary_double类型和bingary_float类型都是可以保证没有损失精度的。但当你的业务需求要求数字有效位>6位时,如果你使用binary_float类型就不能保证精度了。
三、计算过程中,绝对不能做有损失精度的进位、保存操作,否则也不能保证精度。
相关推荐
tongyiixiaohuang22 分钟前
物料成本核算单同步返回信息策略实战教程:从金蝶云星空回写 MySQL 的闭环设计
数据库·mysql
星云低代码开发平台27 分钟前
AI 工作台记录删除与业务审计留存:三层数据边界设计
数据库·人工智能·架构
code_slave(码畜)1 小时前
微服务架构落地:分库分表实战(下) —— 分布式主键、跨分片查询与分页聚合防坑
数据库·spring boot·分布式·spring cloud·微服务·架构·分库分表
dishugj1 小时前
https://blog.csdn.net/dishugj/article/details/162068579
数据库·系统架构
时间售卖铺1 小时前
MySQL 安装部署
运维·数据库·mysql·云原生
泡海椒1 小时前
JQuick-SQL 子查询:WHERE、SELECT、HAVING 与派生表实践
数据库·sql
用户0510122572961 小时前
SQLite 学习博客(一):从零建库,理解 SQLite 的角色与第一张表
数据库·sqlite
福娃筱欢1 小时前
金仓数据库配置SSL双向认证
数据库·网络协议·ssl
captain3762 小时前
MyBatis操作数据库(入门1)
数据库·oracle·mybatis
snpgroupcn2 小时前
SAP 系统退役的归档架构怎么设计:可检索、可理解、可追溯、可证明
java·数据库·架构