技术栈
rkllm-toolkit
用什么都重名
5 小时前
rk3588
·
模型转换
·
rkllm-toolkit
【RK芯片学习笔记】RK3588开发板上大语言模型转换教程
目录1. RKLLM-Toolkit2. RKLLM-Toolkit安装3. 模型转换本文主要讲述在已有环境下,在PC端进行大语言模型转换,使得转换之后的模型可在RK3588开发板上进行部署和推理。注意:模型转换需要在X86架构上进行。
我是有底线的