- 在华为手机上安装termux、下载库：顺利
- 在电脑上安装Android NDK：先下载Android Studio，再在里面下载Android SDK
- 安装Android Studio时，SDK的某些组件总是下载不成功。后来关了梯子、改了hosts，重新安装就成功了。
- 这里执行cmake命令会报错
The source directory does not appear to contain CMakeLists.txt.
原因是没有在llama.cpp目录下运行。应该在git clone后的llama.cpp文件创建build-android，然后再cmake啥的
- 最后执行
./main -m ../model/llama-2-7b-chat.Q4_K_M.gguf -n 128 -cml时会显示failed to load model，后来检查发现是因为下载到本地的模型在一系列复制过程中损失了1G多，然后直接把从baidu-downloads路径下下载下来的完整的3.8G模型复制到termux路径下，没经历损失，就可以了
Mac跑llama.cpp过程中遇到的问题
rebekk2024-05-07 12:33
相关推荐
小草cys12 小时前
在树莓派集群上部署 Distributed Llama (Qwen 3 14B) 详细指南咕咚-萌西1 天前
联邦学习论文分享：Towards Building the Federated GPT:Federated Instruction Tuningrelis2 天前
解密llama.cpp中的batch与ubatch：深度学习推理优化的内存艺术relis2 天前
解密llama.cpp：Prompt Processing如何实现高效推理？GEO_JYB3 天前
BERT家族进化史：从BERT到LLaMA，每一次飞跃都源于对“学习”的更深理解AI大模型3 天前
大模型开发实战：使用 LLaMA Factory 微调与量化模型并部署至 Ollamarelis3 天前
解密llama.cpp：从Prompt到Response的完整技术流程剖析我不是小upper4 天前
Llama v3 中的低秩自适应 (LoRA)df007df10 天前
【RAGFlow代码详解-10】文本处理和查询处理liliangcsdn10 天前
llama.cpp reranking源码分析