解决WSL环境下DeepSeek-OCR运行时内存不足问题

解决WSL环境下DeepSeek-OCR运行时内存不足问题

问题描述

在WSL环境中运行DeepSeek-OCR时出现以下错误:

复制代码
RuntimeError: unable to mmap 6672547120 bytes from file <./deepseek-ai/DeepSeek-OCR/model-00001-of-000001.safetensors>: Cannot allocate memory (12)

这是由于WSL默认分配的内存不足以加载大型模型导致的。

解决方案

1. 配置WSL内存限制

在Windows中创建或编辑WSL配置文件:

  • 文件位置 : C:\Users\<你的用户名>\.wslconfig

添加以下配置内容:

ini 复制代码
[wsl2]
memory=12GB    # 分配给WSL的内存,建议系统内存的70-80%
swap=4GB       # 交换空间
processors=4   # CPU核心数

2. 重启WSL服务

配置完成后,在Windows PowerShell中执行以下命令重启WSL:

powershell 复制代码
wsl --shutdown

然后重新打开WSL终端即可。

相关配置参数优化

根据config.py中的设置,还可以通过调整以下参数进一步优化内存使用:

  • MAX_CONCURRENCY: 降低并发数量以减少GPU内存占用
  • NUM_WORKERS: 减少图像预处理工作线程数
  • MAX_CROPS: 降低最大裁剪数量以减少内存消耗

这些参数可根据实际硬件配置进行适当调整。

相关推荐
曲幽1 天前
FastAPI压力测试实战:Locust模拟真实用户并发及优化建议
python·fastapi·web·locust·asyncio·test·uvicorn·workers
敏编程1 天前
一天一个Python库:jsonschema - JSON 数据验证利器
python
前端付豪1 天前
LangChain记忆:通过Memory记住上次的对话细节
人工智能·python·langchain
databook1 天前
ManimCE v0.20.1 发布:LaTeX 渲染修复与动画稳定性提升
python·动效
花酒锄作田2 天前
使用 pkgutil 实现动态插件系统
python
前端付豪2 天前
LangChain链 写一篇完美推文?用SequencialChain链接不同的组件
人工智能·python·langchain
曲幽2 天前
FastAPI实战:打造本地文生图接口,ollama+diffusers让AI绘画更听话
python·fastapi·web·cors·diffusers·lcm·ollama·dreamshaper8·txt2img
老赵全栈实战2 天前
Pydantic配置管理最佳实践(一)
python
阿尔的代码屋2 天前
[大模型实战 07] 基于 LlamaIndex ReAct 框架手搓全自动博客监控 Agent
人工智能·python
AI探索者3 天前
LangGraph StateGraph 实战:状态机聊天机器人构建指南
python