40亿QQ号,只有1G内存,怎么存储和去重?

这是一道面试经典考题,实际上在项目中用处也非常大。

分析

QQ号都是整数,先假设使用 int 存储,一个 int 占 4 个字节,简单计算 40亿 * 4 / 1024 / 1024 / 1024 = 14.9 GB,大概需要 15GB 左右的空间才能存的下,用 long 和 Integer 就更多了,差不多分别是 int 的 2 倍和 4 倍空间需求。

这么大的内存占用显然不符合面试官的要求。

使用 int 存储,0 和 1000000000 都是一样的 4 byte,那大部分的空间不都妥妥的浪费了,有没有更高效一点的结构呢?

聪明的你一定想到了,对数字来说没必要全量存储,可以用一串二进制码来表示,所在位是 0 表示不存在该数字,所在位是 1 表示存在该数字,比如 1010 从右至左就表示 1,3 两个数字,这样每个数字就只占用 1 bit,8 bit 等于 1 字节,存下 40 亿QQ号也只需要 40亿 / 8 / 1024 / 1024 = 476.83 MB

恭喜你,发明了位图!

位图

位图(BitMap)的基本思想就是用 bit 来标示一个元素的存在与否,通常只有 0 和 1 两种值。

因为用 bit 来存储数据,所以其最大的优点就是节省空间,适用于对海量数字的存储和去重。也正因为使用位表示数字,所以对于稀疏数据来说,相对比较浪费空间,比如位图只存了 1 和 999,那么中间的第 2 位 到第 998 位都是0,相当于用 999 bit 只存了 2 个数字。

同样的道理,位图也适合数字场景。

在 Java 中,位图的具体实现是 BitSet。

BitSet 源码解析

底层结构

底层是一个 long 数组。

vbnet 复制代码
/**
 * The internal field corresponding to the serialField "bits".
 * 这个就是用来存具体二进制位图的数组,每个long有64位,所以可以存64位的二进制数字
 */
private long[] words;

索引定位

因为 long 有 64 位,所以通过 bitIndex / 64 计算应该存到数组的哪个位置上。

arduino 复制代码
/**
 * Given a bit index, return word index containing it.
 * 确定一个位应该存在数组的哪个位置上,返回数组下标
 */
private static int wordIndex(int bitIndex) {
    // 通过位运算提高效率,右移计算相当于除以2的次幂,2的6次幂就是64,这里等价 bitIndex / 64
    return bitIndex >> 6;
}

设置位

scss 复制代码
/**
 * Sets the bit at the specified index to { @code true}.
 *
 * @param bitIndex a bit index
 * @throws IndexOutOfBoundsException if the specified index is negative
 * @since JDK1.0
 */
public void set(int bitIndex) {
    if (bitIndex < 0)
        throw new IndexOutOfBoundsException("bitIndex < 0: " + bitIndex);

    int wordIndex = wordIndex(bitIndex); // 确定索引
    expandTo(wordIndex);

    // 这一步是设置对应的二进制位为1
    words[wordIndex] |= (1L << bitIndex); // Restores invariants

    checkInvariants();
}

核心逻辑

  • 1L << bitIndex:生成一个只有指定位为 1 的掩码。
  • |=:按位或操作,确保目标位被设置为 1,其他位保持不变。

以上就是 Java BitMap 实现类 BitSet 的核心逻辑。

相关推荐
ysa0510304 分钟前
Dijkstra 算法#图论
数据结构·算法·图论
一定要AK35 分钟前
2025—暑期训练一
算法
一定要AK39 分钟前
贪心专题练习
算法
森焱森1 小时前
无人机三轴稳定控制(2)____根据目标俯仰角,实现俯仰稳定化控制,计算出升降舵输出
c语言·单片机·算法·架构·无人机
ytttr8732 小时前
matlab通过Q学习算法解决房间路径规划问题
学习·算法·matlab
海的诗篇_2 小时前
前端开发面试题总结-原生小程序部分
前端·javascript·面试·小程序·vue·html
go54631584653 小时前
修改Spatial-MLLM项目,使其专注于无人机航拍视频的空间理解
人工智能·算法·机器学习·架构·音视频·无人机
油泼辣子多加3 小时前
【Torch】nn.BatchNorm1d算法详解
算法
nlog3n3 小时前
基于 govaluate 的监控系统中,如何设计灵活可扩展的自定义表达式函数体系
算法·go
IT古董4 小时前
【第三章:神经网络原理详解与Pytorch入门】01.神经网络算法理论详解与实践-(2)神经网络整体结构
pytorch·神经网络·算法