通义千问-7B-Chat-Int4

通义千问-7B-Chat-Int4

代码仓库地址:https://github.com/QwenLM/Qwen

安装

  1. 克隆我们的仓库并跳转到相应目录

    git clone https://www.modelscope.cn/qwen/Qwen-7B-Chat-Int4.git
    cd Qwen-7B-Chat-Int4

  2. 创建 conda 环境

    conda create -n qwenint4 python=3.8 -y
    conda activate qwenint4

    conda activate qwenint4

  3. 安装依赖

    pip install -r requirements.txt -i https://pypi.mirrors.ustc.edu.cn/simple

    pip install gradio==3.40.0 -i https://pypi.mirrors.ustc.edu.cn/simple

安装缺失

pip install optimum -i https://pypi.mirrors.ustc.edu.cn/simple

pip install auto-gptq -i https://pypi.mirrors.ustc.edu.cn/simple
相关推荐
魔乐社区1 分钟前
DeepSeek在昇腾上的模型部署 - 常见问题及解决方案
人工智能·深度学习·deepseek
夜幕龙14 分钟前
深度生成模型(二)——基本概念与数学建模
人工智能·深度学习·transformer
游王子19 分钟前
OpenCV(11):人脸检测、物体识别
人工智能·opencv·计算机视觉
山海青风20 分钟前
从零开始玩转TensorFlow:小明的机器学习故事 3
人工智能·机器学习·tensorflow
@心都21 分钟前
机器学习数学基础:35.效度
人工智能·机器学习
幻想趾于现实23 分钟前
傅里叶分析
人工智能
春末的南方城市30 分钟前
VidSketch:具有扩散控制的手绘草图驱动视频生成
人工智能·深度学习·计算机视觉·aigc
Toky丶38 分钟前
【文献阅读】A Survey on Model Compression for Large Language Models
人工智能·语言模型·自然语言处理
Williams101 小时前
解锁高效开发新姿势:Trae AI编辑器深度体验
人工智能·编辑器
Francek Chen1 小时前
【大模型科普】AIGC技术发展与应用实践(一文读懂AIGC)
人工智能·深度学习·语言模型·大模型·aigc