使用 Node.js Elasticsearch 客户端索引大型 CSV 文件

作者:来自 Elastic joshmock

使用 bulk API 可以轻松地将大量文档索引到 Elasticsearch:将你的数据记录转换为 JSON 文档,并插入指示它们应该添加到哪个索引的指令,然后将这个大的换行分隔 JSON blob 作为请求体,通过单个 HTTP 请求发送到 Elasticsearch 集群。或者,使用 Node.js 客户端的 bulk 函数。

更多阅读:Elasticsearch:使用最新的 Nodejs client 8.x 来创建索引并搜索

下面演示如何读取 CSV 文件,将其行转换为 JSON 对象,并进行索引:

php 复制代码
`

1.  import { Client } from '@elastic/elasticsearch'
2.  import { parse } from "csv-parse/sync"
3.  import { readFileSync } from 'node:fs'

5.  const csv = parse(readFileSync('data.csv', 'utf8'), { columns: true })
6.  const operations = csv.flatMap(row => [
7.    { index: { _index: "my_index" } },
8.    row
9.  ])

11.  const client = new Client({ node: 'http://localhost:9200' })
12.  await client.bulk({ operations })

`AI写代码![](https://csdnimg.cn/release/blogv2/dist/pc/img/runCode/icon-arrowwhite.png)

但是,如果你需要发送的数据量超过 Elasticsearch 单次请求能接收的大小,或者你的 CSV 文件太大,无法一次性全部加载到内存中,该怎么办?这时可以使用 bulk helper

虽然 bulk API 本身已经很简单,但对于更复杂的场景,helper 提供了对流式输入的支持,可以将大型数据集拆分为多个请求等。

例如,如果你的 Elasticsearch 服务器只能接收小于 10MB 的 HTTP 请求,你可以通过设置 flushBytes 值来指示 bulk helper 拆分数据。每当请求即将超过设置值时,就会发送一次 bulk 请求:

php 复制代码
`

1.  const csv = parse(readFileSync('data.csv', 'utf8'), { columns: true })
2.  await client.helpers.bulk({
3.    datasource: csv,
4.    onDocument(doc) {
5.      return { index: { _index: "my_index" } }
6.    },
7.    // send a bulk request for every 9.5MB
8.    flushBytes: 9500000
9.  })

`AI写代码

或者,如果你的 CSV 文件太大无法一次性加载到内存中,helper 可以将作为数据源,而不是使用数组:

php 复制代码
`

1.  import { createReadStream } from 'node:fs'
2.  import { parse } from 'csv-parse'

4.  const parser = parse({ columns: true })
5.  await client.helpers.bulk({
6.    datasource: createReadStream('data.csv').pipe(parser),
7.    onDocument(doc) {
8.      return { index: { _index: "my_index" } }
9.    }
10.  })

`AI写代码![](https://csdnimg.cn/release/blogv2/dist/pc/img/runCode/icon-arrowwhite.png)

这会将 CSV 文件中的行缓冲到内存中,解析为 JSON 对象,并让 helper 将结果刷新为一个或多个 HTTP 请求发送出去。这个解决方案不仅节省内存,而且阅读起来也和将整个文件加载到内存中的方法一样简单!

原文:discuss.elastic.co/t/dec-9th-2...

相关推荐
Cx330❀14 小时前
Git 多人协作全攻略:从入门到高效协同
大数据·elasticsearch·搜索引擎·gitee·github·全文检索·gitcode
bigHead-17 小时前
Git合并操作详解:安全高效地合并远程分支
git·安全·elasticsearch
奇树谦19 小时前
FastDDS阿里云DDSRouter安装和使用(失败)
elasticsearch·阿里云·云计算
色空大师19 小时前
服务打包包名设置
java·elasticsearch·maven·打包
码农很忙20 小时前
从0到1搭建实时日志监控系统:基于WebSocket + Elasticsearch的实战方案
websocket·网络协议·elasticsearch
Elastic 中国社区官方博客21 小时前
在 ES|QL 中的混合搜索和多阶段检索
大数据·人工智能·sql·elasticsearch·搜索引擎·ai·全文检索
Elasticsearch2 天前
在 ES|QL 中的混合搜索和多阶段检索
elasticsearch
AC赳赳老秦2 天前
量化交易脚本开发:DeepSeek生成技术指标计算与信号触发代码
数据库·elasticsearch·信息可视化·流程图·数据库架构·memcached·deepseek
Elastic 中国社区官方博客2 天前
使用 Elastic Agent Builder 和 MCP 实现 Agentic 参考架构
大数据·人工智能·elasticsearch·搜索引擎·ai·架构·全文检索
予枫的编程笔记2 天前
Elasticsearch深度搜索与查询DSL实战:精准定位数据的核心技法
java·大数据·人工智能·elasticsearch·搜索引擎·全文检索