在windows 台式机电脑部署GLM4大模型

参考这篇文章在windows笔记本电脑部署GLM4大模型_16g显卡本地部署glm4-CSDN博客

我的环境(PC台式机电脑:
处理器 Intel(R) Core(TM) i9-14900K 3.20 GHz
机带 RAM 32.0 GB (31.8 GB 可用)
、32G内存、NVIDIA RTX4080(16G)、 Windows 10 专业版****)****

基本完成处理相关软件的安装,

目前能启动trans_cli_demo.py,

中途出现torch安装错误,导致启动执行效率非常低.

后续再重新卸载torch:pip uninstall torch

pip

复制代码
pip3 install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu121

可以正常 启动,但是报需要下载:

https://cdn-media.huggingface.co/frpc-gradio-0.2/frpc_windows_amd64.exe

conda安装

复制代码
conda install pytorch torchvision torchaudio pytorch-cuda=12.1 -c pytorch -c nvidia

ImportError: cannot import name 'CommitOperationAdd' from 'huggingface_hub'

报错:ImportError: cannot import name 'get_full_repo_name' from 'huggingface_hub'

使用python3.12重新安装后:

运行效果:

相关推荐
Vex2une2 天前
电脑装双系统怎么弄?Win+Win 与 Win+Linux 安装及启动菜单管理全攻略
linux·windows·电脑·uefi·双系统安装·bcdedit启动项
开开心心就好3 天前
两张表格数据对比工具,不用写函数也能查
算法·spring·智能手机·pdf·电脑·intellij-idea·音视频
ö Constancy5 天前
一台电脑的硬件组成与作用:按功能分类详解(Windows 与 Linux 视角)
linux·windows·电脑
陈工大模型7 天前
收到乱码压缩包之后,我重新测了 7-Zip、Bandizip 和win解压缩
windows·电脑·软件工程·软件需求·7-zip
速捷工控 PLC触摸屏还原程序7 天前
威纶通工程换电脑后缺图,EMTP和图库怎么一起备份?
电脑·威纶通
xx z12 天前
哔哩哔哩第三方客户端 PiliPlus 实测:23.5MB 轻量版,手机平板电脑通用
智能手机·电脑
科小怪13 天前
ADB工具下载安装与常用命令:一条数据线连上电脑,就能给手机装应用、传文件、查日志
adb·智能手机·电脑
mg66814 天前
安卓玩机工具----安卓手机变成桌面电脑!多窗口镜像+音频投射+游戏操控,无需 Root
android·智能手机·电脑
迪康coolmu14 天前
企业U盘管控落地实战:基于迪康端点安全一体化管理系统的移动存储安全实践
运维·人工智能·经验分享·笔记·安全·电脑
sun8612207714 天前
MiniMax M3.1 Flash 高效落地实战指南
电脑