- 在华为手机上安装termux、下载库：顺利
- 在电脑上安装Android NDK：先下载Android Studio，再在里面下载Android SDK
- 安装Android Studio时，SDK的某些组件总是下载不成功。后来关了梯子、改了hosts，重新安装就成功了。
- 这里执行cmake命令会报错
The source directory does not appear to contain CMakeLists.txt.
原因是没有在llama.cpp目录下运行。应该在git clone后的llama.cpp文件创建build-android，然后再cmake啥的
- 最后执行
./main -m ../model/llama-2-7b-chat.Q4_K_M.gguf -n 128 -cml时会显示failed to load model，后来检查发现是因为下载到本地的模型在一系列复制过程中损失了1G多，然后直接把从baidu-downloads路径下下载下来的完整的3.8G模型复制到termux路径下，没经历损失，就可以了
Mac跑llama.cpp过程中遇到的问题
rebekk2024-05-07 12:33
相关推荐
skywalk816311 小时前
在星河社区部署大模型unsloth/Llama-3.3-70B-Instruct-GGUF鹿子沐11 小时前
LlamaFactory微调效果与vllm部署效果不一致三千院本院2 天前
LlaMA_Factory实战微调Qwen-LLM大模型珊珊而川2 天前
MAC-SQL：SQL-Llama 的具体训练流程共绩算力2 天前
Llama 4 Maverick Scout 多模态MoE新里程碑yanzhilv3 天前
Ollama + Open WebUI喜欢吃豆5 天前
掌握本地化大语言模型部署：llama.cpp 工作流与 GGUF 转换内核全面技术指南illuspas7 天前
Ubuntu 24.04下编译支持ROCm加速的llama.cpp缘友一世9 天前
LLama3架构原理浅浅学学我们没有完整的家11 天前
批量吞吐量实测：Llama-2-7b 昇腾 NPU 六大场景数据报告