- 在华为手机上安装termux、下载库:顺利
- 在电脑上安装Android NDK:先下载Android Studio,再在里面下载Android SDK
- 安装Android Studio时,SDK的某些组件总是下载不成功。后来关了梯子、改了hosts,重新安装就成功了。
- 这里执行cmake命令会报错
The source directory does not appear to contain CMakeLists.txt.
原因是没有在llama.cpp目录下运行。应该在git clone后的llama.cpp文件创建build-android,然后再cmake啥的
- 最后执行
./main -m ../model/llama-2-7b-chat.Q4_K_M.gguf -n 128 -cml
时会显示failed to load model
,后来检查发现是因为下载到本地的模型在一系列复制过程中损失了1G多,然后直接把从baidu-downloads路径下下载下来的完整的3.8G模型复制到termux路径下,没经历损失,就可以了
Mac跑llama.cpp过程中遇到的问题
rebekk2024-05-07 12:33
相关推荐
又困又爱睡3 小时前
LLaMA-Factory(一)环境配置及包下载每天八杯水D3 小时前
LLaMA-Factory GLM4-9B-CHAT LoRA 微调实战一只敲代码的猪3 小时前
Llama 3 模型系列解析(一)ibrahim2 天前
Llama 3.2 900亿参数视觉多模态大模型本地部署及案例展示算力魔方AIPC2 天前
Meta重磅发布Llama 3.3 70B:开源AI模型的新里程碑三月七(爱看动漫的程序员)4 天前
LEAST-TO-MOST PROMPTING ENABLES COMPLEX REASONING IN LARGE LANGUAGE MODELS---正文码狂☆4 天前
源码编译llama.cpp for androidAmbition_LAO4 天前
LLaMA-Factory QuickStart 流程详解宇梵文书C4 天前
在CFFF云平台使用llama-factory部署及微调Qwen2.5-7B-InstructCSBLOG5 天前
Day27 - 大模型微调,LLaMA搭建