Double数据精度导致的问题

早知道double的数据精度有限,所以在计算金钱等精细数据的时候,要用bigdecimal;

但是最近在计算一些客流量数据数据的时候,也发现,这种数据精度不足的情况,会不仅仅导致小数点级的计算结果出错

实在是,该踩得坑的都得踩一遍

经验就是:可以分页查询,但是不要分页计算

java 复制代码
public static void main(String[] args) {

        ArrayList<Double> doubles = new ArrayList<>();
        doubles.add(100.0);
        doubles.add(200.0);
        doubles.add(300.0);
        doubles.add(400.0);
        doubles.add(500.0);
        doubles.add(600.0);
        doubles.add(700.0);
        doubles.add(800.0);
        doubles.add(900.0);
        doubles.add(1000.0);

        int pageSize = 3;
        // 计算总页数
        int totalPage = (doubles.size() + pageSize - 1) / pageSize;
        List<Double> averageUvListForSum = new ArrayList<>();
        for (int pageNum = 0; pageNum < totalPage; pageNum++) {
            // 计算当前页的开始索引
            int fromIndex = (pageNum) * pageSize;
            // 防止结束索引超出数组长度
            int toIndex = Math.min(fromIndex + pageSize, doubles.size());
            List<Double> doubles1 = doubles.subList(fromIndex, toIndex);
            Double averageUvByPage = doubles1.stream().mapToDouble(Double::doubleValue).average().orElse(0.0);
            //分页计算,从数学上是行的通的,但是计算机的double精度会导致计算错误
            Double averageUvForSum = (averageUvByPage)/(doubles.size()/(toIndex - fromIndex));
            averageUvListForSum.add(averageUvForSum);
        }
        //分页计算平平均值
        double sum = averageUvListForSum.stream().mapToDouble(Double::doubleValue).sum();//600.0
        //Stream计算平均值
        double v = doubles.stream().mapToDouble(Double::doubleValue).average().orElse(0.0);//550.0
    }
相关推荐
Wang's Blog30 分钟前
Java框架快速入门: Spring Security+OAuth2之元注解简化权限表达式
java·数据库·spring
xifangge20251 小时前
AGENTS.md 怎么写?涵盖 Java、Python、Vue、Go 的 8 套开箱即用模板
java·vue.js·python
Wang's Blog1 小时前
Java框架快速入门: Spring Security+OAuth2之云服务集成与多因子认证设计
java·开发语言·spring
liangsheng_g2 小时前
SpringAOP拦截器链递归与事务钩子补偿源码实战
java·spring
SL_staff2 小时前
制造业私有化文档平台的技术实践:从知识孤岛到可追溯知识资产
java·spring·开源
SL_staff3 小时前
3天上线OKR系统:一名HR与1名工程师如何用JVS完成全栈交付
java·低代码·开源
wzdark4 小时前
基于链表的内存池设计与内存复用机制4
java·数据结构·链表
cnkeysky5 小时前
idea 中的 maven 项目重新加载子模块
java·idea
Escalating_xu5 小时前
【System V 信号量】从 P/V 原语到 Builder 封装:写出可控、可清理的进程互斥组件
java·linux·开发语言·jvm
今天AI了吗5 小时前
什么是 AI Agent?它与直接调用大模型 API 有何区别
java·网络·人工智能·架构·java-ee