Electron 集成 Express + SQlite 解决并发锁库的问题

背景

经过通信层面的优化后,我们不再走 Electron 提供的内置进程间通信 IPC,改为利用 Express 提供的 Http 本地服务来进行多处直达通信机制,同时利用本地 Sqlite 来保存大量数据,但 Express 提供的本地服务是支持并发请求的,而 Sqlite 是不支持行锁的机制,一旦有写入操作,Sqlite 都是直接锁库,除了采用单表单库减少锁库问题外,另外就是走队列的方式来逐个入库,避免写锁问题。

一个Sqlite3教程好文档,分享到这里:函数sqlite3VdbeHalt | SQlite源码分析

解决方案

启用 WAL 模式

WAL 模式即将写的数据暂存在 WAL 文件中,不影响主库,这样就可以避开库锁问题,同时读也可以并行操作,大大提高了 Sqlite 读写并行能力

javascript 复制代码
export const userDataPath = app.getPath('userData')
const storagePath = path.join(userDataPath, '/sqlite/wa_verify.db')

// 创建 Sequelize 实例
export const sequelize = new Sequelize({
    dialect: 'sqlite',
    storage: storagePath,
    define: {
        freezeTableName: true
    },
    logging: false
})

// 启用 WAL 模式
(async () => {
    try {
        await sequelize.authenticate()
        await sequelize.query('PRAGMA journal_mode=WAL;')
        console.log('WAL mode enabled.')
    } catch (error) {
        console.error('Unable to enable WAL mode:', error)
    }
})()

Expess 层面加限流

p-limit 是个好东西,这个直接可控制请求的并发数,如果想搞成队列机制,直接设为 1 即可,省去了自己写队列的烦恼,另外我也第一次发现异步开发的优越性,写个队列也非常简单,而同步开发就没这么方便,必须分为两个进程来搞事情,一个写入队列,一个弹出队列,但是如何保证本地 http 返回结果就很难了,而异步可以一直等待着。

javascript 复制代码
import express from 'express';
import pLimit from 'p-limit';

const app = express();
const port = 3000;

const limit = pLimit(1); // 限制并发请求为 1

app.get('/car', (req, res) => {
    const startTime = Date.now();

    limit(() => new Promise((resolve) => {
        setTimeout(() => {
            const endTime = Date.now();
            const processingTime = endTime - startTime;

            res.json({
                message: '车信息处理完成',
                startTime: new Date(startTime).toISOString(),
                endTime: new Date(endTime).toISOString(),
                processingTime: `${processingTime}ms`
            });

            resolve();
        }, 3000); // 模拟处理时间
    }));
});

app.listen(port, () => {
    console.log(`服务器正在监听 http://localhost:${port}`);
});

客户端测试 Express 并发脚本

javascript 复制代码
import fetch from 'node-fetch';

const url = 'http://localhost:3000/car'; // 你的服务地址
const concurrentRequests = 10; // 请求数

async function sendRequest() {
    const startTime = Date.now();

    try {
        const response = await fetch(url);
        const data = await response.json();
        const endTime = Date.now();

        console.log('响应数据:', data);
        console.log(`请求开始时间: ${data.startTime}`);
        console.log(`请求结束时间: ${data.endTime}`);
        console.log(`处理时间: ${data.processingTime}`);
        console.log(`单个请求的处理时间: ${endTime - startTime}ms`);
    } catch (error) {
        console.error('发生错误:', error);
    }
}

async function testConcurrency() {
    for (let i = 0; i < concurrentRequests; i++) {
        console.log(`发起请求 ${i + 1}...`);
        sendRequest(); // 逐个发送请求,等待每个请求完成
    }
}

testConcurrency();

请求时间结果截图,明显串行执行,完美!

相关推荐
jingli93 小时前
一个测试用例把连接池卡死 30 秒:SQLite 连接池 max_size=1 下的重入自锁复盘
jvm·sqlite·测试用例
Wx-bishekaifayuan7 小时前
springboot社区扶贫救助管理系统13300-计算机课程设计、毕业设计
spring boot·后端·python·django·课程设计·express·旅游
Wx-bishekaifayuan9 小时前
springboot甘肃特产服务平台50301-计算机课程设计、毕业设计
spring boot·后端·python·django·课程设计·express·旅游
FYKJ_20109 小时前
express皖美特色农产品网售系统53118-计算机课程设计、毕业设计
javascript·vue.js·spring boot·mysql·typescript·spark·express
Wx-bishekaifayuan10 小时前
django医院营收信息预测系统49414-计算机课程设计、毕业设计
spring boot·后端·python·django·课程设计·express·旅游
Wx-bishekaifayuan10 小时前
springboot会议室预约管理系统42030-计算机课程设计、毕业设计
spring boot·后端·python·django·课程设计·express·旅游
Wx-bishekaifayuan11 小时前
springboot贵州旅游系统55916-计算机课程设计、毕业设计
spring boot·后端·python·django·课程设计·express·旅游
去伪存真16 小时前
Electron 自动化发布指南:GitHub Actions 跨平台打包全纪录
前端·electron
Quz16 小时前
QML TableView:可编辑表格与 SQLite 数据持久化
qt·sqlite
小林ixn16 小时前
用 SQLite + 大模型做一个 Text2SQL 小助手:从建表到自然语言查询的完整实战
数据库·sqlite