DeepSeek开源多模态大模型Janus-Pro部署

DeepSeek多模态大模型部署

• 请自行根据电脑配置选择合适
• 环境配置
• • 安装conda以及git
  • [Janus 项目以及依赖安装](#Janus 项目以及依赖安装)
  • 运行
  • • cpu运行
    • gpu运行
  • 进入ui界面

请自行根据电脑配置选择合适

本人家用电脑为1060，因此部署的7B模型。配置高的可以考虑更大参数的模型。

环境配置

安装conda以及git

点我下载git
点我下载conda

Janus 项目以及依赖安装

git clone https://github.com/deepseek-ai/Janus.git
conda create -n myenvp python=3.10 -y
conda activate myenvp
cd Janus
pip install -e .
pip install gradio
pip uninstall torch torchvision torchaudio -y
pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu126

运行

cpu运行

python demo/app_januspro.py

gpu运行

python demo/app_januspro.py --device cuda

进入ui界面

http://127.0.0.1:7860点我即可使用

公网地址会自动生成，如图所示：

我找了个网图，由于担心版权问题我没有发全，同时你会发现AI它可以识别出来P图。