政安晨【零基础玩转各类开源AI项目】DeepSeek 多模态大模型Janus-Pro-7B,本地部署!支持图像识别和图像生成

政安晨的个人主页:************政安晨****************

欢迎 👍点赞✍评论⭐收藏

希望政安晨的博客能够对您有所裨益,如有不足之处,欢迎在评论区提出指正!

目录

下载项目

创建虚拟环境

安装项目依赖

[安装 Gradio(UI)](#安装 Gradio(UI))

[运行 Janus Pro UI](#运行 Janus Pro UI)


以后铁子们玩开源大模型就朝着多模态的方面进发吧,未来开源的多模态大模型不在多模态领域整出点花花儿,都不好意思说自己是搞开源的。🤭🤭🤭

今天我们一起部署一下这个Janus-Pro-7B的模型,正好手头缺一款轻量级自由出图助手!嘻嘻。

下载项目

复制代码
git clone https://github.com/deepseek-ai/Janus.git

网速慢的小伙伴可以考虑镜像站点。

创建虚拟环境

复制代码
conda create -n janus python=3.10.6 -y

进行项目目录:

安装项目依赖

复制代码
pip install -e .

耐心等待。

为确保与 GPU 兼容,请安装支持 CUDA 的最新版本的 PyTorch、TorchVision 和 TorchAudio。即使已经安装了 PyTorch,您在运行 Web 应用程序时也可能会遇到问题,因此最好更新:

复制代码
pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu121

或者这样:

复制代码
pip uninstall torch torchvision torchaudio -y
pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu121

(当然,如果更新过了也可以不执行上面指令)

这样依赖库就安装成功了。

安装 Gradio(UI)

复制代码
pip install gradio

完成安装。

运行 Janus Pro UI

复制代码
python demo/app_januspro.py

首次运行时会下载模型:

差不多20G大小,建议准备足够的空间。

或者这样(指定GPU):

复制代码
python demo/app_januspro.py --device cuda

好了,可以好好用了。

多模态大模型的价值在哪里?

以多模态的开源权重,驱动具体事务问题的解决。


相关推荐
装不满的克莱因瓶12 分钟前
学习 LLM 的函数回调及格式化输出,让 LLM 拥有更强的能力
人工智能·ai·大模型·llm·agent·智能体
涤生大数据14 分钟前
从 ETL 到 Agent:AI数据工程如何搭建企业级“数据工厂“
数据仓库·人工智能·etl
手写码匠19 分钟前
手写 DeepSeek 推理引擎优化:从 FP16 到 INT4 的量化加速实战
人工智能·深度学习·算法·aigc
落叶无情26 分钟前
评审icef框架是否能认定为“认知操作系统”
人工智能
zhangfeng113330 分钟前
天数智芯天垓 100 加密大模型分布式部署安全方案
人工智能·分布式·安全·transformer·gpu算力·芯片
明志数科34 分钟前
机器人长尾场景数据采集:实操方法论与成本控制
大数据·人工智能
lifallen41 分钟前
第六章 MCP:把能力接入协议化
人工智能·ai·语言模型·ai编程
code 小楊44 分钟前
AI Agent记忆系统全解析:从基础到前沿
人工智能
niuniuyi~1 小时前
科研阶段记录2-下
人工智能·知识图谱
workflower1 小时前
医院核心竞争力的四大重构
人工智能·安全·设计模式·重构·动态规划·scrum