在windows 台式机电脑部署GLM4大模型

参考这篇文章在windows笔记本电脑部署GLM4大模型_16g显卡本地部署glm4-CSDN博客

我的环境(PC台式机电脑:
处理器 Intel(R) Core(TM) i9-14900K 3.20 GHz
机带 RAM 32.0 GB (31.8 GB 可用)
、32G内存、NVIDIA RTX4080(16G)、 Windows 10 专业版****)****

基本完成处理相关软件的安装,

目前能启动trans_cli_demo.py,

中途出现torch安装错误,导致启动执行效率非常低.

后续再重新卸载torch:pip uninstall torch

pip

复制代码
pip3 install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu121

可以正常 启动,但是报需要下载:

https://cdn-media.huggingface.co/frpc-gradio-0.2/frpc_windows_amd64.exe

conda安装

复制代码
conda install pytorch torchvision torchaudio pytorch-cuda=12.1 -c pytorch -c nvidia

ImportError: cannot import name 'CommitOperationAdd' from 'huggingface_hub'

报错:ImportError: cannot import name 'get_full_repo_name' from 'huggingface_hub'

使用python3.12重新安装后:

运行效果:

相关推荐
ONETHING_CLOUD_211 小时前
不用电脑要不要关机?
经验分享·科技·电脑·数码·实用技巧分享
不做无法实现的梦~16 小时前
mid360连接机载电脑,远程桌面连接不上的情况
运维·服务器·电脑
筑梦之月19 小时前
如何查看电脑后门IP和流量?
网络协议·tcp/ip·电脑
.m19 小时前
台式电脑有多个风扇开机只有部分转动的原因
电脑
呉師傅2 天前
佳能iR-ADV C5560复印机如何扫描文件到电脑
运维·网络·windows·计算机外设·电脑
Risehuxyc2 天前
USB Type-c
电脑
AORO20253 天前
天通卫星赋能三防智能平板:AORO P1100打造全域通信新范式
网络·5g·电脑·制造·信息与通信
AORO20253 天前
北斗短报文兜底、5G-A增强:AORO P1100三防平板构建应急通信网络
网络·5g·电脑·制造·信息与通信
yayapoi~4 天前
两台电脑连接交换机,使用其中一台电脑的网络上网(NAT转发)
网络·电脑
AORO20254 天前
遨游三防平板|国产芯片鸿蒙系统单北斗三防平板,安全高效
5g·安全·电脑·制造·信息与通信·harmonyos