JS 数组去重全方案:从基础到通用万能去重函数

JS 数组去重全方案:从基础到通用万能去重函数

日常开发中数组去重是高频需求,场景却各不相同:普通基础类型数组、单字段对象数组、多字段联合去重、自定义规则去重。网上方案零散,很多只适配单一场景。本文循序渐进梳理所有主流去重写法,最后封装一个支持多字段、自定义比较函数 的通用万能去重工具 unique3,覆盖 99% 业务场景。

一、基础数组去重(纯数字 / 字符串等基本类型)

仅针对 Number/String/Boolean/null/undefined 这类基础值数组,不支持对象、数组引用类型。

1. Set 一行最简写法

javascript 复制代码
function uniqueArray(arr){
    return [...new Set(arr)];
}
const arr = [1, 2, 3, 4, 4, 5, 5];
console.log(unique1(arr)); // [1,2,3,4,5]

优点:代码极简、性能优秀,时间复杂度 O (n)

缺点:无法处理对象、无法自定义去重规则

2. filter + indexOf 实现

javascript 复制代码
function uniqueArray(arr){ 
    return arr.filter((item,index) => arr.indexOf(item) === index); 
 }

原理: indexOf 永远返回元素第一次出现的下标,只有首次出现时下标匹配,保留元素。

缺点indexOf 底层遍历,时间复杂度 O (n²),大数据数组性能差。

3. reduce 累加去重

scss 复制代码
function uniqueArray(arr) {
    return arr.reduce((accumulator,current) => {
        if(!accumulator.includes(current)){
            accumulator.push(current);
        }
        return accumulator;
    },[]);
}

利用累加数组存储不重复值,includes 判断是否已存在,逻辑直观,但同样 O (n²),大数据不推荐。

4. 原生 for 循环两种写法

简易版(indexOf 判断)
scss 复制代码
function uniqueArray(arr) {
    const result = []
    for(let i = 0;i < arr.length;i++){
        if(result.indexOf(arr[i]) === -1) result.push(arr[i])
    }
    return result
}

优化版(对象哈希表,O (n) 性能)

arduino 复制代码
function uniqueArray(arr) {
    const result = []
    const map = {}
    for(const item of arr) {
        if(!map[item]) {
            map[item] = true
            result.push(item)
        }
    }
    return result
}

利用对象键快速标记已存在的值,查询速度远快于 indexOf,性能大幅提升;

缺陷: 数字、字符串会被统一转为对象字符串键,1"1" 会判定为重复。

二、对象数组去重(业务最常用场景)

前端接口返回列表大多是对象数组,需要按指定字段去重,分三种场景:单字段、全对象、多字段联合去重。

1. 单字段去重(如 id 唯一)

arduino 复制代码
function uniqueByKey(arr,key) {
    const map = new Map()
    return arr.filter(item => {
        if(!map.has(item[key])){
            map.set(item[key],true)
            return true
        }
        return false
    })
}
const list = [{id:1,name:'A'},{id:1,name:'A'},{id:2,name:'B'}] 
console.log(uniqueByKey(list, 'id'))

2. 完整对象去重(全部属性一致才算重复)

将对象序列化为字符串作为唯一标识存入 Set:

vbnet 复制代码
function uniqueByObject(arr) {
    const set = new Set()
    return arr.filter(item => {
        const key = JSON.stringify(item)
        if(!set.has(key)) {
            set.add(key)
            return true
        }
        return false
    })
}

注意JSON.stringify 有局限:属性顺序不同、undefined / 函数会丢失,复杂对象慎用。

3. 进阶:单字段兼容基础数组 unique2

整合基础数组 + 单字段对象数组场景:

vbnet 复制代码
function unique2(arr,key) {
    if(!key) {
        return [...new Set(arr)]
    }
    const map = new Map()
    return arr.filter(item => {
        const value = item[key]
        if(!map.has(value)) {
            map.set(value,true)
            return true
        }
        return false
    })
}

三、终极通用去重函数 unique3(多字段 + 自定义比较)

前面所有方案都有局限:要么只能单字段、要么无法自定义重复规则。封装 unique3 支持三大模式:

  1. 不传配置:基础类型 Set 去重
  2. 传入 keys 数组:多字段联合去重
  3. 传入 compareFn:自定义函数判断重复

完整源码

javascript 复制代码
function unique3(arr,options = {}) {
    const { keys, compareFn } = options
    if(!keys && !compareFn) return [...new Set(arr)]
    if(keys) {
        const map = new Map()
        return arr.filter(item => {
            const key = keys.map(k => item[k]).join('|')
            if(!map.has(key)) {
                map.set(key,true)
                return true
            }
            return false
        })
    }
    if(compareFn) {
        return arr.filter((item,index,self) => {
            return index === self.findIndex(t => compareFn(t,item))
        })
    }
}

总结

  1. 简单基础数组:直接 [...new Set(arr)],最简高效;
  2. 对象单字段去重:uniqueByKey / unique2
  3. 对象多字段联合去重:unique3({ keys: [...] })
  4. 复杂自定义重复规则:unique3({ compareFn });日常开发直接引入 unique3 万能函数,一套代码覆盖全部去重场景,不用重复写多种去重逻辑,大幅提升开发效率。
相关推荐
晴天161 小时前
Electron面试题-Day19
java·javascript·electron
阿黎梨梨1 小时前
读懂一个 Next.js 全栈笔记应用
前端
古茗前端团队1 小时前
代码越改越乱?来试试前端领域模型驱动设计(DDD)
前端·agent·ai编程
Hilaku1 小时前
为什么跳槽涨薪 30% 的时代彻底结束了?聊聊 2026 前端薪资的天花板
前端·javascript·程序员
愚公搬代码2 小时前
【愚公系列】《Web应用安全》006-HackBar插件的使用
前端·安全
超爱吃香菜的菜鸟2 小时前
关于pnpm 部分使用(一)
前端·vue.js
Vuji2 小时前
Pi 插件解剖|git-checkpoint.ts:只用 53 行,让 fork 恢复代码状态
前端·agent
大家的林语冰2 小时前
✌️ 让 Rust 再次伟大,pnpm 12 抛弃 TypeScript,移植 Rust 原地起飞!
前端·javascript·node.js
XPoet3 小时前
AI 编程工程化:实战——从 0 到 1 搭建 AI 编程工作流
前端·后端·ai编程