LLMops实战：大模型微调、部署、评估自动化

基本环境：Jenkins（自动化工作流）、

Git（下载代码)、

Anaconda（虚拟化环境创建）、

Python（编程语言支持）

关键组件：CUDA（发挥GPU算力优势，可大幅缩短微调时间）

LLaMa-Factory（模型微调工具）

llama.cpp (模型格式转换)

MLFlow(模型生命周期管理 注册、评估、镜像生成)

部署：Docker 容器化部署

测试：Streamlit（快速搭建web测试界面）

一、安装Anacodna

写文章-CSDN创作中心

二、安装CUDA