DeepSeek多模态大模型部署
- 请自行根据电脑配置选择合适
- 环境配置
-
- 安装conda以及git
- [Janus 项目以及依赖安装](#Janus 项目以及依赖安装)
- 运行
- 进入ui界面
请自行根据电脑配置选择合适
本人家用电脑为1060，因此部署的7B模型。配置高的可以考虑更大参数的模型。
环境配置
安装conda以及git
Janus 项目以及依赖安装
python
git clone https://github.com/deepseek-ai/Janus.git
conda create -n myenvp python=3.10 -y
conda activate myenvp
cd Janus
pip install -e .
pip install gradio
pip uninstall torch torchvision torchaudio -y
pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu126运行
cpu运行
python demo/app_januspro.py
gpu运行
python demo/app_januspro.py --device cuda
进入ui界面
公网地址会自动生成，如图所示：
我找了个网图，由于担心版权问题我没有发全，同时你会发现AI它可以识别出来P图。
