- 在华为手机上安装termux、下载库:顺利
- 在电脑上安装Android NDK:先下载Android Studio,再在里面下载Android SDK
- 安装Android Studio时,SDK的某些组件总是下载不成功。后来关了梯子、改了hosts,重新安装就成功了。
- 这里执行cmake命令会报错
The source directory does not appear to contain CMakeLists.txt.
原因是没有在llama.cpp目录下运行。应该在git clone后的llama.cpp文件创建build-android,然后再cmake啥的
- 最后执行
./main -m ../model/llama-2-7b-chat.Q4_K_M.gguf -n 128 -cml
时会显示failed to load model
,后来检查发现是因为下载到本地的模型在一系列复制过程中损失了1G多,然后直接把从baidu-downloads路径下下载下来的完整的3.8G模型复制到termux路径下,没经历损失,就可以了
Mac跑llama.cpp过程中遇到的问题
rebekk2024-05-07 12:33
相关推荐
游离子丶2 天前
LLama Factory从入门到放弃T0uken2 天前
【LLM】llama.cpp:合并 GGUF 模型分片剑客的茶馆4 天前
GPT,Genini, Claude Llama, DeepSeek,Qwen,Grok,选对LLM大模型真的可以事半功倍!try2find4 天前
llama-webui docker实现界面部署寻丶幽风5 天前
论文阅读笔记——Mixtral of Expertsdeephub5 天前
从零开始用Pytorch实现LLaMA 4的混合专家(MoE)模型仙人掌_lz8 天前
详解如何复现LLaMA 4:从零开始利用Python构建AI大模型团团8 天前
从基础概念到前沿应用了解机器学习Panesle10 天前
英伟达开源253B语言模型:Llama-3.1-Nemotron-Ultra-253B-v1 模型情况JovaZou12 天前
n8n 本地部署及实践应用,实现零成本自动化运营 Telegram 频道(保证好使)