40亿QQ号,只有1G内存,怎么存储和去重?

这是一道面试经典考题,实际上在项目中用处也非常大。

分析

QQ号都是整数,先假设使用 int 存储,一个 int 占 4 个字节,简单计算 40亿 * 4 / 1024 / 1024 / 1024 = 14.9 GB,大概需要 15GB 左右的空间才能存的下,用 long 和 Integer 就更多了,差不多分别是 int 的 2 倍和 4 倍空间需求。

这么大的内存占用显然不符合面试官的要求。

使用 int 存储,0 和 1000000000 都是一样的 4 byte,那大部分的空间不都妥妥的浪费了,有没有更高效一点的结构呢?

聪明的你一定想到了,对数字来说没必要全量存储,可以用一串二进制码来表示,所在位是 0 表示不存在该数字,所在位是 1 表示存在该数字,比如 1010 从右至左就表示 1,3 两个数字,这样每个数字就只占用 1 bit,8 bit 等于 1 字节,存下 40 亿QQ号也只需要 40亿 / 8 / 1024 / 1024 = 476.83 MB

恭喜你,发明了位图!

位图

位图(BitMap)的基本思想就是用 bit 来标示一个元素的存在与否,通常只有 0 和 1 两种值。

因为用 bit 来存储数据,所以其最大的优点就是节省空间,适用于对海量数字的存储和去重。也正因为使用位表示数字,所以对于稀疏数据来说,相对比较浪费空间,比如位图只存了 1 和 999,那么中间的第 2 位 到第 998 位都是0,相当于用 999 bit 只存了 2 个数字。

同样的道理,位图也适合数字场景。

在 Java 中,位图的具体实现是 BitSet。

BitSet 源码解析

底层结构

底层是一个 long 数组。

vbnet 复制代码
/**
 * The internal field corresponding to the serialField "bits".
 * 这个就是用来存具体二进制位图的数组,每个long有64位,所以可以存64位的二进制数字
 */
private long[] words;

索引定位

因为 long 有 64 位,所以通过 bitIndex / 64 计算应该存到数组的哪个位置上。

arduino 复制代码
/**
 * Given a bit index, return word index containing it.
 * 确定一个位应该存在数组的哪个位置上,返回数组下标
 */
private static int wordIndex(int bitIndex) {
    // 通过位运算提高效率,右移计算相当于除以2的次幂,2的6次幂就是64,这里等价 bitIndex / 64
    return bitIndex >> 6;
}

设置位

scss 复制代码
/**
 * Sets the bit at the specified index to { @code true}.
 *
 * @param bitIndex a bit index
 * @throws IndexOutOfBoundsException if the specified index is negative
 * @since JDK1.0
 */
public void set(int bitIndex) {
    if (bitIndex < 0)
        throw new IndexOutOfBoundsException("bitIndex < 0: " + bitIndex);

    int wordIndex = wordIndex(bitIndex); // 确定索引
    expandTo(wordIndex);

    // 这一步是设置对应的二进制位为1
    words[wordIndex] |= (1L << bitIndex); // Restores invariants

    checkInvariants();
}

核心逻辑

  • 1L << bitIndex:生成一个只有指定位为 1 的掩码。
  • |=:按位或操作,确保目标位被设置为 1,其他位保持不变。

以上就是 Java BitMap 实现类 BitSet 的核心逻辑。

相关推荐
kyriewen4 小时前
我手写了一个 EventEmitter,面试官追问了 6 个问题——第 4 个我没答上来
前端·javascript·面试
先吃饱再说5 小时前
判断回文字符串,从一行代码到双指针优化
算法
她的男孩5 小时前
后台接口加密别只会 HTTPS,ForgeAdmin 的 RSA + SM4/AES 源码拆解
后端·面试·开源
Randyliu6 小时前
20260508-Agent搭建记录以及对ReAct框架的理解
面试·agent
ZzT7 小时前
公司用 AI 筛简历,他写了个 AI 帮你挑公司
面试·aigc·ai编程
黄敬峰7 小时前
深入理解算法核心:从递归思想、数组扁平化到快速排序
算法
PBitW7 小时前
GPT训练我的第四天,被打惨了!!!😭😭😭
前端·javascript·面试
得物技术9 小时前
从狂野代码到按目标生产:得物推荐 AI Harness 的工程化实践|AICon 演讲整理
人工智能·算法·架构
AI小老六12 小时前
SkillOpt 架构拆解:把 Skill 文本当参数,用执行轨迹训练 Agent
后端·算法·ai编程