C# 按行写入txt大量数据

在 C# 中高效写入大量数据到文本文件时,建议使用 StreamWriter 并逐行写入,避免一次性加载全部数据到内存。以下是完整示例和注意事项:

基础实现

using System.IO;

// 示例:逐行写入 100 万条数据

string filePath = "large_data.txt";

// 使用 StreamWriter 并启用自动刷新缓冲区(或手动控制)

using (StreamWriter writer = new StreamWriter(filePath))

{

for (int i = 0; i < 1_000_000; i++)

{

string line = $"这是第 {i} 行数据";

writer.WriteLine(line);

// 可选:每写入 N 行手动刷新一次(平衡性能与内存)

if (i % 1000 == 0) writer.Flush();

}

}

高性能优化技巧

1、缓冲区设置

通过构造函数指定更大的缓冲区大小(默认 4KB):

using (var writer = new StreamWriter(filePath, append: false, Encoding.UTF8, bufferSize: 65536))

2、异步写入

使用异步方法减少线程阻塞:

using (StreamWriter writer = new StreamWriter(filePath))

{

for (int i = 0; i < 1_000_000; i++)

{

await writer.WriteLineAsync($"异步写入第 {i} 行");

}

}

3、分批次生成数据

避免在内存中累积全部数据:

foreach (var item in GetLargeDataStream()) // 假设这是你的数据源

{

writer.WriteLine(ProcessData(item)); // 逐行处理并写入

}

典型问题解决方案

问题1:文件被占用无法访问

原因:未正确释放 StreamWriter 资源

修复:始终使用 using 语句包裹写入操作

问题2:写入速度慢

优化方案:

禁用 AutoFlush(默认 false)

减少不必要的字符串拼接(用 StringBuilder 预处理复杂行)

升级物理磁盘(SSD 比 HDD 快 10 倍以上)

问题3:内存溢出

现象:写入 1GB+ 数据时程序崩溃

解决:确保数据源是流式(IEnumerable)而非全内存集合

高级场景

追加写入现有文件:

using (var writer = new StreamWriter(filePath, append: true)) // 关键参数

{

writer.WriteLine("----- 这是追加的内容 -----");

}

混合同步/异步写入

var writer = new StreamWriter(filePath);

await writer.WriteLineAsync("Header"); // 异步写开头

writer.WriteLine("Sync Content"); // 同步写主体

await writer.FlushAsync(); // 手动异步刷新

通过以上方法,可在 10 秒内稳定写入 1GB 量级的文本数据(具体性能取决于硬件配置)。

如果您喜欢此文章,请收藏、点赞、评论,谢谢,祝您快乐每一天。

相关推荐
wujian83113 小时前
怎么用千问生成word文档:从「格式崩」到「一键过」,AI导出鸭打通最后半厘米
人工智能·ai·c#·word·豆包·deepseek·ai导出鸭
zlinear数据采集卡4 小时前
D223上位机C#开发实战:从帧解析到波形显示的完整实现
开发语言·arm开发·嵌入式硬件·fpga开发·开源·c#
唐青枫6 小时前
别把 ImmutableArray 当成只读 List:C#.NET 不可变数组深入详解
c#·.net
zlinear数据采集卡8 小时前
D223 ADC数据处理流水线:从原始采样值到工程单位的完整转换链
开发语言·arm开发·嵌入式硬件·fpga开发·开源·c#
花落人散处12 小时前
CDiskClean 开发历程 —— 文件清理_目录树解析实现方案参考
c#
离陌在学C#12 小时前
C# 泛型:从基础到高级应用
开发语言·c#
Vertira12 小时前
C# 与 OpencvSharp 编程[基础目录]
c#
格林威14 小时前
多相机并行采图最佳实践:Task.WhenAll + 异常处理 + 资源释放
开发语言·人工智能·数码相机·计算机视觉·c#·视觉检测·机器视觉
yuhulkjv3351 天前
Claude表格复制到word不再崩溃,AI导出鸭批量导出+格式无损一键搞定
人工智能·ai·c#·word·ai导出鸭