- 在华为手机上安装termux、下载库：顺利
- 在电脑上安装Android NDK：先下载Android Studio，再在里面下载Android SDK
- 安装Android Studio时，SDK的某些组件总是下载不成功。后来关了梯子、改了hosts，重新安装就成功了。
- 这里执行cmake命令会报错
The source directory does not appear to contain CMakeLists.txt.
原因是没有在llama.cpp目录下运行。应该在git clone后的llama.cpp文件创建build-android，然后再cmake啥的
- 最后执行
./main -m ../model/llama-2-7b-chat.Q4_K_M.gguf -n 128 -cml时会显示failed to load model，后来检查发现是因为下载到本地的模型在一系列复制过程中损失了1G多，然后直接把从baidu-downloads路径下下载下来的完整的3.8G模型复制到termux路径下，没经历损失，就可以了
Mac跑llama.cpp过程中遇到的问题
rebekk2024-05-07 12:33
相关推荐
m0_603888714 天前
LLaMA-Adapter V2 Parameter-Efficient Visual Instruction Model三千院本院8 天前
LlaMA_Factory实战微调VL大模型爱分享的飘哥13 天前
第四十六章：AI的“瞬时记忆”与“高效聚焦”：llama.cpp的KV Cache与Attention机制psyq14 天前
LLaMA Factory 角色扮演模型微调实践记录liliangcsdn22 天前
mac测试ollama llamaindex茫茫人海一粒沙22 天前
使用 LLaMA 3 8B 微调一个 Reward Model：从入门到实践liliangcsdn24 天前
mac llama_index agent算术式子计算示例许愿与你永世安宁25 天前
RAG（检索增强生成）里的文档管理许愿与你永世安宁1 个月前
基于Llama的RAG 3种模型配置方法至善迎风1 个月前
本地部署 Kimi K2 全指南（llama.cpp、vLLM、Docker 三法）