- 在华为手机上安装termux、下载库:顺利
- 在电脑上安装Android NDK:先下载Android Studio,再在里面下载Android SDK
- 安装Android Studio时,SDK的某些组件总是下载不成功。后来关了梯子、改了hosts,重新安装就成功了。
- 这里执行cmake命令会报错
The source directory does not appear to contain CMakeLists.txt.

原因是没有在llama.cpp目录下运行。应该在git clone后的llama.cpp文件创建build-android,然后再cmake啥的
- 最后执行
./main -m ../model/llama-2-7b-chat.Q4_K_M.gguf -n 128 -cml时会显示failed to load model,后来检查发现是因为下载到本地的模型在一系列复制过程中损失了1G多,然后直接把从baidu-downloads路径下下载下来的完整的3.8G模型复制到termux路径下,没经历损失,就可以了
Mac跑llama.cpp过程中遇到的问题
rebekk2024-05-07 12:33
相关推荐
qyyyyy5705 天前
PDF 转 JSON 怎么做?从表格和元数据提取到 LLM 结构化处理薛定e的猫咪5 天前
【大模型量化】使用 llama.cpp 完成量化、本地推理与服务化部署CODER03045 天前
win11系统编译安装cuda版llama-cpp-python(踩完所有的坑)今天吃饺子6 天前
超高创新模型!TF-SAX-Llama 轴承故障诊断明月千里赴迢遥7 天前
Node搭建代理清洗API请求Rei22487 天前
使用llama.cpp的Qwen3.6-27B-Q8本地部署详解【Linux GPU】蛋先生DX7 天前
大模型本地部署神器的瘦身进阶原理,就这两招?爱学习的小白柏8 天前
【AI问数技术】多Agent协同架构:查询规划/SQL生成/洞察分析/报告生成qy2016skq9 天前
OpenClaw 源码解读——入门与破局9 双插件协同:Quota Guard 负责“停“,Model Router 负责“绕“CHPCWWHSU9 天前
llama.cpp + DeepSeek-Harness 构建本地大模型推理与Agent智能体系统