rkllm - rkllm技术,学习,经验文章

源来猿往

15 天前

大模型(qwen3-1.7b)转rkllm之前用过qwen3.0 转rkllm，部署rk3588上面，这次就来记录下，如何转换吧。由于qwen3.0 需要python 3.9以上，所以之前的提供的 rknn-toolkit2-v2.3.0-cp38-docker.tar.gz 不能用，那么我们直接在ubuntu上面进行使用把。要不就自己慢慢搭建环境。