- 在华为手机上安装termux、下载库:顺利
- 在电脑上安装Android NDK:先下载Android Studio,再在里面下载Android SDK
- 安装Android Studio时,SDK的某些组件总是下载不成功。后来关了梯子、改了hosts,重新安装就成功了。
- 这里执行cmake命令会报错
The source directory does not appear to contain CMakeLists.txt.
原因是没有在llama.cpp目录下运行。应该在git clone后的llama.cpp文件创建build-android,然后再cmake啥的
- 最后执行
./main -m ../model/llama-2-7b-chat.Q4_K_M.gguf -n 128 -cml
时会显示failed to load model
,后来检查发现是因为下载到本地的模型在一系列复制过程中损失了1G多,然后直接把从baidu-downloads路径下下载下来的完整的3.8G模型复制到termux路径下,没经历损失,就可以了
Mac跑llama.cpp过程中遇到的问题
rebekk2024-05-07 12:33
相关推荐
Zhijun.li@Studio10 天前
【LLaMA-Factory 实战系列】二、WebUI 篇 - Qwen2.5-VL 多模态模型 LoRA 微调保姆级教程1213410 天前
LLM:重构数字世界的“智能操作系统”冷雨夜中漫步18 天前
Java中如何使用lambda表达式分类groupby扫地的小何尚20 天前
全新NVIDIA Llama Nemotron Nano视觉语言模型在OCR基准测试中准确率夺冠CFAteam20 天前
DeepSeek AI功能演示:如何生成Verilog脚本Tadas-Gao22 天前
从碳基羊驼到硅基LLaMA:开源大模型家族的生物隐喻与技术进化全景Run_Clover22 天前
llama-factory微调大模型环境配置避坑总结ss27323 天前
Llama 4开源项目多维分析研究深科文库24 天前
构建 MCP 服务器:第 2 部分 — 使用资源模板扩展资源晨尘光1 个月前
在Windows下编译出llama_cpp_python的DLL后,在虚拟环境中使用方法