- 在华为手机上安装termux、下载库：顺利
- 在电脑上安装Android NDK：先下载Android Studio，再在里面下载Android SDK
- 安装Android Studio时，SDK的某些组件总是下载不成功。后来关了梯子、改了hosts，重新安装就成功了。
- 这里执行cmake命令会报错
The source directory does not appear to contain CMakeLists.txt.
原因是没有在llama.cpp目录下运行。应该在git clone后的llama.cpp文件创建build-android，然后再cmake啥的
- 最后执行
./main -m ../model/llama-2-7b-chat.Q4_K_M.gguf -n 128 -cml时会显示failed to load model，后来检查发现是因为下载到本地的模型在一系列复制过程中损失了1G多，然后直接把从baidu-downloads路径下下载下来的完整的3.8G模型复制到termux路径下，没经历损失，就可以了
Mac跑llama.cpp过程中遇到的问题
rebekk2024-05-07 12:33
相关推荐
~远在太平洋~2 天前
大模型评测框架 OpenCompass 本地部署保姆级教程：从安装到跑通 C-Eval 基准（含依赖冲突修复与判分避坑）程序猿编码4 天前
告别 GPU 空转！token 级调度，Qwen/Llama 高并发推理引擎还卿一钵无情泪6 天前
PEFT-Transformers、Unsloth、LLaMA-Factory 微调框架 横向对比程序猿编码7 天前
不依赖 vLLM/llama.cpp：一套面向学习的 DeepSeek-R1 CUDA 推理实现天燹7 天前
本地部署大模型ollama骑着蜗牛撵大象3278 天前
N1 小盒子撑起 AI 接口中转层：New-API 接管本地 Ollama，用 Token 分发模型能力言简行敏，心静致远。9 天前
llama-bench使用说明及其应用AI_Gump10 天前
模型篇｜llama.cpp 推理引擎深度解读：从一人练手到 LLM 端侧的事实标准星野云联AIoT技术洞察12 天前
设备手册离线 RAG：先管住版本、权限和引文，再谈本地大模型晚风吹北巷14 天前
基于LLama-Factory 进行Lora微调