- 在华为手机上安装termux、下载库：顺利
- 在电脑上安装Android NDK：先下载Android Studio，再在里面下载Android SDK
- 安装Android Studio时，SDK的某些组件总是下载不成功。后来关了梯子、改了hosts，重新安装就成功了。
- 这里执行cmake命令会报错
The source directory does not appear to contain CMakeLists.txt.
原因是没有在llama.cpp目录下运行。应该在git clone后的llama.cpp文件创建build-android，然后再cmake啥的
- 最后执行
./main -m ../model/llama-2-7b-chat.Q4_K_M.gguf -n 128 -cml时会显示failed to load model，后来检查发现是因为下载到本地的模型在一系列复制过程中损失了1G多，然后直接把从baidu-downloads路径下下载下来的完整的3.8G模型复制到termux路径下，没经历损失，就可以了
Mac跑llama.cpp过程中遇到的问题
rebekk2024-05-07 12:33
相关推荐
DigitalOcean4 天前
DigitalOcean Gradient AI 推理云平台原生集成 LlamaIndexECHO飞跃 01210 天前
Unity2019 本地推理 通义千问0.5-1.5B微调导入黑白极客10 天前
ACP大模型认证刷题工具开源，助力高效备考迷之程序员10 天前
llama-cpp-python用法，模型加载gpu踩坑全记录~kiss~11 天前
Ollama 底层的 llama.cpp 和 GGUF小雨中_12 天前
4.1 Megatron-LM：千卡级集群预训练的“硬核”框架重生之我要成为代码大佬13 天前
AI框架设计与选型小雨中_13 天前
4.1 LLaMA 系列：从 LLaMA-1 到 LLaMA-3l1t15 天前
DeepSeek总结的llama.cpp使用说明爱跑步的程序员~18 天前
SpringBoot集成SpringAI与Ollama本地大模型