Windows部署LangChain-chatchat问题归纳

硬件清单

  • Windows11
  • GPU: 4080

问题列表

Python版本太新

**解决方法:**Py版本不能太新,安装py版本3.11.

jq安装失败

通过安装conda来安装jq

Building wheels for collected package: jq failed in Windows · Issue #4396 · langchain-ai/langchain (github.com)

注释jq

BUG requirement.txt中jq 安装错误解答 win 10或11 · Issue #2533 · chatchat-space/Langchain-Chatchat (github.com)

zhipuai依赖安装失败

解决方法: BUG requirements_api.txt中关于zhipuai的依赖一行有一个中文逗号,会导致安装出错 · Issue #2519 · chatchat-space/Langchain-Chatchat (github.com)

启动失败

查看英伟达版本nvidia-smi

**解决方法:**Pytorch 版本2.1.2+cpu

通过Pytorch 官网 PyTorch安装 CUDA对应的Pytorch

Bug Report No Version Of Pytorch for cuda 12.3 · Issue #112500 · pytorch/pytorch (github.com)

最后安装完成

相关推荐
DigitalOcean27 分钟前
GPU 算力降本指南:拆解大模型推理账单的 4 个隐藏加价坑
llm·agent
Token炼金师2 小时前
生产化的鸿沟:流式、缓存、可观测、红蓝对抗、限流降级与评测 —— 工程化六渡
人工智能·llm·可观测性·红蓝对抗·缓存策略·限流降级·评测体系
吃饱了得干活2 小时前
LangChain 模型调用方案:invoke、stream、batch 的同步与异步
langchain·llm
千桐科技7 小时前
qKnow 智能体构建平台开源版 v2.2.3 发布:Agent Bot 支持用户自定义工具编排
开源·大模型·llm·工作流·qknow·智能体构建平台
手写码匠7 小时前
注意力机制全家桶:从 Multi-Head 到 GQA 再到 Flash Attention 的手写实现
人工智能·深度学习·算法·aigc
leeyi7 小时前
Eino 的“你好世界“背后发生了什么(第48篇-E34)
aigc·agent·ai编程
FogLetter7 小时前
告别“一次性Prompt”:当AI学会“手艺活”,Skill才是智能体的终极进化
aigc·openai
武子康8 小时前
调查研究-224 Prefill 与 Decode 分离:高并发 LLM Serving 的下一层架构
人工智能·ai·架构·llm·gpu·vllm·sglang
zzzll11119 小时前
Typora插件开发指南:打造专属IDE式写作环境
ide·学习·计算机·大模型·llm·知识
怕浪猫9 小时前
第12章 实战项目四:电商销售与服务Agent
aigc·openai·ai编程