技术栈
ai模型部署
BE东欲
21 天前
大语言模型
·
ai模型部署
·
视觉推理
Llama-3.2V-11B-cot镜像部署一文详解:解决torch版本冲突与依赖兼容问题
你是不是也遇到过这种情况?好不容易找到一个功能强大的AI模型镜像,比如这个支持图像理解和逐步推理的Llama-3.2V-11B-cot,结果一运行就报错,各种版本冲突、依赖问题让人头疼。
西木风落
2 年前
pytorch
·
ai模型部署
pytorch 模型部署
在训练好模型后,需要将模型进行部署,一般情况下,AI模型部署基本步骤有:上述AI模型部署步骤也提到,对模型进行优化,有哪些优化点呢?
我是有底线的