C# 高效读取大文件

在 C# 中高效读取大文件时,需根据文件类型和场景选择不同的技术方案,以下为综合实践方法及注意事项:

一、文本文件读取方案

逐行读取

StreamReader.ReadLine‌:通过流式处理逐行加载文本,避免一次性加载整个文件到内存,适合超大文本文件(如日志文件)。

using (StreamReader sr = new StreamReader("file.txt", Encoding.UTF8, bufferSize: 1024*1024))

{

string line;

while ((line = sr.ReadLine()) != null)

{

// 处理每行数据

}

}

File.ReadLines():返回 IEnumerable<string> 实现惰性加载,语法简洁但需注意异常处理(如文件不存在时抛出 FileNotFoundException)。

分批次处理

结合数据库事务分批入库(如每 1 万条提交一次),减少内存峰值和 I/O 压力:

List<string> batch = new List<string>(10000);

while ((line = sr.ReadLine()) != null)

{

batch.Add(line);

if (batch.Count >= 10000)

{

InsertToDatabase(batch);

batch.Clear();

}

}

二、二进制文件读取方案

FileStream + 字节数组

直接操作字节流,适合非文本文件(如图像、音视频):

using (FileStream fs = new FileStream("file.bin", FileMode.Open))

{

byte\[\] buffer = new byte4096;

int bytesRead;

while ((bytesRead = fs.Read(buffer, 0, buffer.Length)) > 0)

{

// 处理二进制数据块

}

}

BufferedStream 加速

对底层流添加缓冲区(默认 4KB),减少直接访问存储设备的频率,提升 I/O 效率。

三、优化技巧

**缓冲区设置:**通过 StreamReader 构造函数指定 bufferSize(如 1MB),平衡内存与读取频率。

**编码处理:**明确指定文本编码(如 Encoding.GetEncoding("GB2312"))避免乱码。

**资源释放:**使用 using 语句确保流对象及时释放,防止内存泄漏。

四、方案对比

方法 适用场景 内存占用 灵活性

StreamReader 超大文本逐行处理 低 高(可控性强)

File.ReadLines() 中小文本简洁操作 中 中

FileStream 二进制文件处理 低 高

注意事项: 对于超大规模文件(如数十 GB),需避免 File.ReadAllLines 等一次性加载方法,防止内存溢出

如果您喜欢此文章,请收藏、点赞、评论,谢谢,祝您快乐每一天。

相关推荐
小羊没烦恼!19 小时前
铁道部新客票系统设计(二)
开发语言·前端·数据库·python·oracle·c#·php
昂好的day20 小时前
VisionMaster 通信模块实战(上):Modbus、TCP 收发、协议组装解析
开发语言·网络·网络协议·tcp/ip·c#
波力海苔夹心脆6751 天前
C# 正则表达式零基础入门:从“看得懂“到“会用“
经验分享·后端·mysql·正则表达式·c#
昂好的day1 天前
VisionMaster(VM) 标定工具详解(上):为什么必须标定 + 九点标定手眼标定
开发语言·数码相机·c#
小羊没烦恼!1 天前
深入浅出SQL Server中的死锁
java·开发语言·前端·数据库·后端·spring·c#
czhc11400756632 天前
同值短路与单一真值源:属性不是命令,状态只有一个家
c#
下页、再停留2 天前
【C#桌面客户端系列学习-15】生成可视化图表之折线图、柱状图、饼状图
开发语言·c#
波力海苔夹心脆6752 天前
VisionMaster 两级位置修正实战:塑料外壳与金属件装配角度检测
经验分享·计算机视觉·c#·visionmaster·海康机器人·位置修正
小羊没烦恼!2 天前
C#综合揭秘——Entity Framework 并发处理详解
java·开发语言·前端·javascript·数据库·mysql·c#
淡海水2 天前
05-02-源码-Boehm GC标记阶段
算法·unity·c#·游戏引擎·gc