Double数据精度导致的问题

早知道double的数据精度有限,所以在计算金钱等精细数据的时候,要用bigdecimal;

但是最近在计算一些客流量数据数据的时候,也发现,这种数据精度不足的情况,会不仅仅导致小数点级的计算结果出错

实在是,该踩得坑的都得踩一遍

经验就是:可以分页查询,但是不要分页计算

java 复制代码
public static void main(String[] args) {

        ArrayList<Double> doubles = new ArrayList<>();
        doubles.add(100.0);
        doubles.add(200.0);
        doubles.add(300.0);
        doubles.add(400.0);
        doubles.add(500.0);
        doubles.add(600.0);
        doubles.add(700.0);
        doubles.add(800.0);
        doubles.add(900.0);
        doubles.add(1000.0);

        int pageSize = 3;
        // 计算总页数
        int totalPage = (doubles.size() + pageSize - 1) / pageSize;
        List<Double> averageUvListForSum = new ArrayList<>();
        for (int pageNum = 0; pageNum < totalPage; pageNum++) {
            // 计算当前页的开始索引
            int fromIndex = (pageNum) * pageSize;
            // 防止结束索引超出数组长度
            int toIndex = Math.min(fromIndex + pageSize, doubles.size());
            List<Double> doubles1 = doubles.subList(fromIndex, toIndex);
            Double averageUvByPage = doubles1.stream().mapToDouble(Double::doubleValue).average().orElse(0.0);
            //分页计算,从数学上是行的通的,但是计算机的double精度会导致计算错误
            Double averageUvForSum = (averageUvByPage)/(doubles.size()/(toIndex - fromIndex));
            averageUvListForSum.add(averageUvForSum);
        }
        //分页计算平平均值
        double sum = averageUvListForSum.stream().mapToDouble(Double::doubleValue).sum();//600.0
        //Stream计算平均值
        double v = doubles.stream().mapToDouble(Double::doubleValue).average().orElse(0.0);//550.0
    }
相关推荐
mit6.8242 小时前
[C# starter-kit] 命令/查询职责分离CQRS | MediatR |
java·数据库·c#
诸神缄默不语2 小时前
Maven用户设置文件(settings.xml)配置指南
xml·java·maven
任子菲阳2 小时前
学Java第三十四天-----抽象类和抽象方法
java·开发语言
学Linux的语莫3 小时前
机器学习数据处理
java·算法·机器学习
找不到、了3 小时前
JVM的即时编译JIT的介绍
java·jvm
西瓜er3 小时前
JAVA:Spring Boot 集成 FFmpeg 实现多媒体处理
java·spring boot·ffmpeg
你总是一副不开心的样子(´ . .̫ .3 小时前
一、十天速通Java面试(第三天)
java·面试·职场和发展·java面试
迎風吹頭髮4 小时前
UNIX下C语言编程与实践63-UNIX 并发 Socket 编程:非阻塞套接字与轮询模型
java·c语言·unix
我是华为OD~HR~栗栗呀4 小时前
23届考研-Java面经(华为OD)
java·c++·python·华为od·华为·面试
Javatutouhouduan4 小时前
Java程序员如何深入学习JVM底层原理?
java·jvm·java面试·后端开发·java架构师·java程序员·互联网大厂