c# 在10万条数据中判断是否存在很慢问题

在C#中,使用List<T>.Where查询10万条数据是否存在会很慢,因为这会导致线性搜索,时间复杂度为O(n)。如果数据集很大,你应该使用更高效的数据结构,如HashSet<T>,它提供了O(1)的插入和查找操作。

复制代码
using System;
using System.Collections.Generic;
using System.Diagnostics;
 
class Program
{
    static void Main()
    {
        var dataSet = new HashSet<int>();
        var largeList = new List<int>();
 
        // 填充数据集
        for (int i = 0; i < 10000000; i++)
        {
            dataSet.Add(i);
            largeList.Add(i);
        }
 
        var stopwatch = Stopwatch.StartNew(); // 开始计时
 
        // 测试数据是否存在
        bool exists = dataSet.Contains(5000000); // 假设我们查找的数据
 
        stopwatch.Stop(); // 停止计时
 
        Console.WriteLine($"Exists: {exists}, Time Elapsed: {stopwatch.ElapsedMilliseconds} ms");
 
        // 使用List.Where进行同样的查找
        stopwatch.Restart(); // 重新开始计时
 
        bool existsInList = largeList.Where(x => x == 5000000).Any();
 
        stopwatch.Stop(); // 停止计时
 
        Console.WriteLine($"Exists in List: {existsInList}, Time Elapsed: {stopwatch.ElapsedMilliseconds} ms");
    }
}

在C#中,使用List<T>.Where进行查询时,如果列表非常大(例如10万条数据),查询性能可能会变慢。这是因为Where方法会遍历整个列表来寻找匹配的元素。

为了提高性能,可以考虑以下方法:

  1. 使用HashSet<T>来存储需要查询的数据,这样可以将查询时间从O(n)降低到O(1)。

  2. 如果列表是有序的,可以使用二分查找,这样可以将查询时间从O(n)降低到O(log n)。

  3. 如果查询操作是频繁的,可以考虑使用更适合大数据量查询的数据结构,如Dictionary<TKey, TValue>或者专门的数据库索引等。

下面是一个使用HashSet<T>的示例代码:

复制代码
// 假设我们有一个Person类和一个List<Person>
public class Person
{
    public int Id { get; set; }
    // 其他属性...
}
 
// 创建并填充列表
List<Person> people = new List<Person>();
// 填充数据... (假设已经填充了10万条数据)
 
// 创建HashSet存储Id
HashSet<int> personIds = new HashSet<int>(people.Select(p => p.Id));
 
// 查询数据是否存在
int searchId = 12345;
bool exists = personIds.Contains(searchId);

在这个示例中,我们首先创建了一个HashSet<int>,它存储了people列表中所有Person对象的Id。然后,我们可以使用Contains方法来快速检查某个Id是否存在于集合中,时间复杂度为O(1)。这种方法在需要频繁检查数据是否存在时效率会很高。

相关推荐
EAIReport22 分钟前
国外网站数据批量采集技术实现路径
开发语言·python
超绝振刀怪23 分钟前
【C++可变模板参数】
开发语言·c++·可变模板参数
Freak嵌入式33 分钟前
MicroPython LVGL基础知识和概念:时序与动态效果
开发语言·python·github·php·gui·lvgl·micropython
2501_933329551 小时前
企业媒体发布与舆情管理实战:Infoseek舆情系统技术架构与落地解析
大数据·开发语言·人工智能·数据库开发
"菠萝"1 小时前
C#知识学习-021(文字关键字)
开发语言·学习·c#
minji...1 小时前
Linux 线程同步与互斥(二) 线程同步,条件变量,pthread_cond_init/wait/signal/broadcast
linux·运维·开发语言·jvm·数据结构·c++
zhangzeyuaaa1 小时前
Python 中的 Map 和 Reduce 详解
开发语言·python
游乐码1 小时前
c#HashTable
开发语言·c#
小白学大数据1 小时前
Scrapy 分布式爬虫:大规模采集汽车之家电车评论
开发语言·分布式·爬虫·scrapy