- 在华为手机上安装termux、下载库：顺利
- 在电脑上安装Android NDK：先下载Android Studio，再在里面下载Android SDK
- 安装Android Studio时，SDK的某些组件总是下载不成功。后来关了梯子、改了hosts，重新安装就成功了。
- 这里执行cmake命令会报错
The source directory does not appear to contain CMakeLists.txt.
原因是没有在llama.cpp目录下运行。应该在git clone后的llama.cpp文件创建build-android，然后再cmake啥的
- 最后执行
./main -m ../model/llama-2-7b-chat.Q4_K_M.gguf -n 128 -cml时会显示failed to load model，后来检查发现是因为下载到本地的模型在一系列复制过程中损失了1G多，然后直接把从baidu-downloads路径下下载下来的完整的3.8G模型复制到termux路径下，没经历损失，就可以了
Mac跑llama.cpp过程中遇到的问题
rebekk2024-05-07 12:33
相关推荐
寒水馨11 小时前
Windows下载、安装ollama-v0.32.1（附安装包OllamaSetup.exe）老刘说AI1 天前
AI服务核心： 高并发原理与性能监控调优头茬韭菜2 天前
Kronos 模型推理性能基准测试报告亮亮在江湖2 天前
# 手写原生Transformers SFT脚本 vs LLaMA Factory 训练 核心完整对比染指11103 天前
61.RAG-RAG存在的问题CClaris7 天前
大模型量化从0到1（九）：用 llama.cpp 把模型转成 GGUF 并跑本地推理染指11107 天前
56.llama_index-查询引擎_codemonster7 天前
从零手搓大模型（七）GPT 转 Llama：从教学版 GPT 走向现代 LLM 架构SLD_Allen8 天前
Purple Llama：Meta开源的LLM安全“紫队”工具箱俊俊谢8 天前
从零搭建：本地LangChain Agent调用远程LLaMA-Factory模型服务