40亿QQ号,只有1G内存,怎么存储和去重?

这是一道面试经典考题,实际上在项目中用处也非常大。

分析

QQ号都是整数,先假设使用 int 存储,一个 int 占 4 个字节,简单计算 40亿 * 4 / 1024 / 1024 / 1024 = 14.9 GB,大概需要 15GB 左右的空间才能存的下,用 long 和 Integer 就更多了,差不多分别是 int 的 2 倍和 4 倍空间需求。

这么大的内存占用显然不符合面试官的要求。

使用 int 存储,0 和 1000000000 都是一样的 4 byte,那大部分的空间不都妥妥的浪费了,有没有更高效一点的结构呢?

聪明的你一定想到了,对数字来说没必要全量存储,可以用一串二进制码来表示,所在位是 0 表示不存在该数字,所在位是 1 表示存在该数字,比如 1010 从右至左就表示 1,3 两个数字,这样每个数字就只占用 1 bit,8 bit 等于 1 字节,存下 40 亿QQ号也只需要 40亿 / 8 / 1024 / 1024 = 476.83 MB

恭喜你,发明了位图!

位图

位图(BitMap)的基本思想就是用 bit 来标示一个元素的存在与否,通常只有 0 和 1 两种值。

因为用 bit 来存储数据,所以其最大的优点就是节省空间,适用于对海量数字的存储和去重。也正因为使用位表示数字,所以对于稀疏数据来说,相对比较浪费空间,比如位图只存了 1 和 999,那么中间的第 2 位 到第 998 位都是0,相当于用 999 bit 只存了 2 个数字。

同样的道理,位图也适合数字场景。

在 Java 中,位图的具体实现是 BitSet。

BitSet 源码解析

底层结构

底层是一个 long 数组。

vbnet 复制代码
/**
 * The internal field corresponding to the serialField "bits".
 * 这个就是用来存具体二进制位图的数组,每个long有64位,所以可以存64位的二进制数字
 */
private long[] words;

索引定位

因为 long 有 64 位,所以通过 bitIndex / 64 计算应该存到数组的哪个位置上。

arduino 复制代码
/**
 * Given a bit index, return word index containing it.
 * 确定一个位应该存在数组的哪个位置上,返回数组下标
 */
private static int wordIndex(int bitIndex) {
    // 通过位运算提高效率,右移计算相当于除以2的次幂,2的6次幂就是64,这里等价 bitIndex / 64
    return bitIndex >> 6;
}

设置位

scss 复制代码
/**
 * Sets the bit at the specified index to { @code true}.
 *
 * @param bitIndex a bit index
 * @throws IndexOutOfBoundsException if the specified index is negative
 * @since JDK1.0
 */
public void set(int bitIndex) {
    if (bitIndex < 0)
        throw new IndexOutOfBoundsException("bitIndex < 0: " + bitIndex);

    int wordIndex = wordIndex(bitIndex); // 确定索引
    expandTo(wordIndex);

    // 这一步是设置对应的二进制位为1
    words[wordIndex] |= (1L << bitIndex); // Restores invariants

    checkInvariants();
}

核心逻辑

  • 1L << bitIndex:生成一个只有指定位为 1 的掩码。
  • |=:按位或操作,确保目标位被设置为 1,其他位保持不变。

以上就是 Java BitMap 实现类 BitSet 的核心逻辑。

相关推荐
果壳science19 分钟前
张祥前统一场论研讨会在香港理工大学举办
人工智能·算法
桐盛科技36 分钟前
能碳数据清洗用MAD算法,窗口大小和阈值怎么调?
物联网·算法·边缘计算
Omics Pro39 分钟前
澳科大:自进化AI虚拟细胞
数据库·人工智能·算法·机器学习·自然语言处理
Doubbbbbbble云39 分钟前
从算法工程化角度看空间换时间策略的权衡4
算法
ShineWinsu40 分钟前
对于MySQL:索引的解析
linux·数据库·mysql·面试·笔试·索引·海量数据
心中有你02141 小时前
Java Swing实现校园最短路径导航系统(Dijkstra算法完整源码+详细解析)
java·开发语言·算法
Alphapeople1 小时前
路径规划算法的python实现
开发语言·python·算法
LabVIEW开发1 小时前
从饱和升温曲线到参数辨识:在LabVIEW中拟合y=a(1-e^(-bx))
算法·labview·labview知识·labview功能·labview程序
keyipatience1 小时前
5种IO模型与阻塞IO,select,poll,epoll,LT和ET模式
linux·服务器·网络·数据结构·c++·算法
江湖十年1 小时前
Go 虚荣域名详解:我用 go get -x 抓了个包,终于看清了 Go 工具链“对暗号”的全过程
后端·面试·go