在windows 台式机电脑部署GLM4大模型

参考这篇文章在windows笔记本电脑部署GLM4大模型_16g显卡本地部署glm4-CSDN博客

我的环境(PC台式机电脑:
处理器 Intel(R) Core(TM) i9-14900K 3.20 GHz
机带 RAM 32.0 GB (31.8 GB 可用)
、32G内存、NVIDIA RTX4080(16G)、 Windows 10 专业版****)****

基本完成处理相关软件的安装,

目前能启动trans_cli_demo.py,

中途出现torch安装错误,导致启动执行效率非常低.

后续再重新卸载torch:pip uninstall torch

pip

复制代码
pip3 install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu121

可以正常 启动,但是报需要下载:

https://cdn-media.huggingface.co/frpc-gradio-0.2/frpc_windows_amd64.exe

conda安装

复制代码
conda install pytorch torchvision torchaudio pytorch-cuda=12.1 -c pytorch -c nvidia

ImportError: cannot import name 'CommitOperationAdd' from 'huggingface_hub'

报错:ImportError: cannot import name 'get_full_repo_name' from 'huggingface_hub'

使用python3.12重新安装后:

运行效果:

相关推荐
qq_393828223 小时前
PDF的图片文字识别工具
windows·pdf·电脑·软件需求·图片处理
zzywxc7876 小时前
如何高效清理C盘、释放存储空间,让电脑不再卡顿。
经验分享·缓存·性能优化·电脑
盘古开天166614 小时前
如何用废弃电脑变成服务器搭建web网站(公网访问零成本)
服务器·电脑·免费公网ip
未来之窗软件服务15 小时前
电脑一体机,收银机画面显示不全——深入解析 BIOS 配置电脑分辨率——东方仙盟
电脑·仙盟创梦ide·东方仙盟·电脑问题
五花肉.10 天前
C#采集电脑硬件(CPU、GPU、硬盘、内存等)温度和使用状况
开发语言·c#·电脑
2501_9153743510 天前
Windows电脑数据恢复终极指南:从原理到实战
windows·电脑
Rverdoser10 天前
电脑的虚拟内存对性能影响大吗
电脑
pitepa11 天前
解决戴尔电脑No bootable devices found问题
电脑·戴尔电脑
文哥工具箱211 天前
天若 OCR效率工具F4 截图秒识别,多语言混合文本准确率高离线识别保隐私
电脑·软件工程·开源软件
weixin_6289938512 天前
内容搜索软件AnyTXT.Searcher忘记文件名也能搜,全文检索 1 秒定位文件
电脑·软件构建·开源软件