- 在华为手机上安装termux、下载库：顺利
- 在电脑上安装Android NDK：先下载Android Studio，再在里面下载Android SDK
- 安装Android Studio时，SDK的某些组件总是下载不成功。后来关了梯子、改了hosts，重新安装就成功了。
- 这里执行cmake命令会报错
The source directory does not appear to contain CMakeLists.txt.
原因是没有在llama.cpp目录下运行。应该在git clone后的llama.cpp文件创建build-android，然后再cmake啥的
- 最后执行
./main -m ../model/llama-2-7b-chat.Q4_K_M.gguf -n 128 -cml时会显示failed to load model，后来检查发现是因为下载到本地的模型在一系列复制过程中损失了1G多，然后直接把从baidu-downloads路径下下载下来的完整的3.8G模型复制到termux路径下，没经历损失，就可以了
Mac跑llama.cpp过程中遇到的问题
rebekk2024-05-07 12:33
相关推荐
GPU实战笔记1 天前
本地跑不动 llama.cpp，临时租云 GPU 怎么搭？从启动服务到环境复用牛马工作号4 天前
RK3588 使用 rk-llama.cpp + RKNPU2 部署 Qwen3.5：从零开始的 NPU 本地大模型实战书源丶4 天前
Qwen3-Embedding-0.6B 纯 CPU论文复现现场5 天前
Llama/Qwen 70B 部署需要几张 RTX 4090？2卡、4卡、8卡显存、量化与 vLLM 选型谢白羽5 天前
在4×B300用SGLang部署DeepSeek-V4.1 Flash优化实录renzao_ai9 天前
本地 35B 大模型部署实战：Ollama 跑 Ornith-35B 全流程Είναι η κοπέλα9 天前
本地大模型部署完全指南：Ollama / vLLM / llama.cpp / MLX 四大引擎横评与选型实战小饕9 天前
RK3588 NPU 跑大模型实测：rknn-llm 解码 25.9 tok/s，是 llama.cpp 的 4 倍！附三天完整踩坑记录一航jason9 天前
Android平台推理框架及试用场景模型对比一航jason9 天前
Android 端侧大模型推理框架对比