- 在华为手机上安装termux、下载库：顺利
- 在电脑上安装Android NDK：先下载Android Studio，再在里面下载Android SDK
- 安装Android Studio时，SDK的某些组件总是下载不成功。后来关了梯子、改了hosts，重新安装就成功了。
- 这里执行cmake命令会报错
The source directory does not appear to contain CMakeLists.txt.
原因是没有在llama.cpp目录下运行。应该在git clone后的llama.cpp文件创建build-android，然后再cmake啥的
- 最后执行
./main -m ../model/llama-2-7b-chat.Q4_K_M.gguf -n 128 -cml时会显示failed to load model，后来检查发现是因为下载到本地的模型在一系列复制过程中损失了1G多，然后直接把从baidu-downloads路径下下载下来的完整的3.8G模型复制到termux路径下，没经历损失，就可以了
Mac跑llama.cpp过程中遇到的问题
rebekk2024-05-07 12:33
相关推荐
阡陌数智2 天前
Llama 4 MoE 架构深度拆解：交替稀疏专家设计与生产环境推理落地实战论文复现现场2 天前
8卡4090能跑70B吗？Llama-2显存预算、QLoRA与通信瓶颈Vd7H20A73 天前
Windows 下用 llama.cpp 运行 Qwen3.8-27B 并开启 512K 上下文 完全指南jason.zeng@15022073 天前
（六）Prompt 优化jason.zeng@15022074 天前
（八）现有架构上新增一个通用Excel导出工具jason.zeng@15022074 天前
（九）多轮对话式新增维修记录实现方案jason.zeng@15022074 天前
（五）多轮对话上下文，实现交互。jason.zeng@15022074 天前
（十）分层架构的多文件工程n112127 天前
4G 显存老显卡怎么跑模型：llama.cpp 加 GGUF 配置打工仔折腾 AI7 天前
LLaMA 1 到 LLaMA 3 架构演进拆解：从 RoPE、GQA 到词表扩张