快速在高通芯片手机&平板本地部署大模型DeepSeek

一、硬件准备

设备:高通芯片的手机或者平板(建议选用骁龙8以上芯片)

内存:大于16G(方便运行更大参数的大模型)

存储:根据不同大小的模型预留足够即可


二、部署教程

说明:本教程使用的设备是8GEN2芯片的手机,部署的模型为deepseek-r1:7b

步骤

1.下载并安装AidLux

在端侧AI开发者社区处(forum.aidlux.com/t/topic/719...) 点击下载AidLux软件,安装后注册使用避免闪退,如果想常驻后台可以在社区搜索相关文章。

2.远程登录AidLux进行配置

打开AidLux点击桌面的Cloud_ip应用(云朵形状icon),查看ip地址,并且在浏览器中输入该ip地址。 (Tips:手机或平板要与你的电脑连接同一个wifi)

连接成功后出现登陆页面,默认账号:aidlux ;默认密码:aidlux

登录后打开终端:

进入命令行界面:

现在准备工作已经做好了,接下来下载大模型。

3、下载ollama进行配置

下载ollama,默认sudo密码aidlux;

命令行依次输入下面命令:

bash 复制代码
curl -fsSL https://ollama.com/install.sh | sh
ollama  serve &
#让ollama服务在后台运行
ollama -v
#安装完毕可以查看ollama版本进行验证,出现版本号之后就可以使用ollama

下载过程:

4、下载并运行deepseek模型

输入命令:

复制代码
ollama pull deepseek-r1:7b
ollama list

下载完成后可以查看已下载模型
Tips:可根据手机/平板配置,自行选择下载3b/7b等参数模型。

运行模型

输入命令:

arduino 复制代码
ollama run deepseek-r1:7b

出现>>>即可开始提问了

相关推荐
coder!mq3 分钟前
什么是泛型?有什么好处?
linux·运维·服务器·面试题·八股文
2023自学中9 小时前
Linux 图形系统
linux
Sirens.11 小时前
MySQL表设计进阶-约束范式连接索引与事务
android·数据库·mysql
mounter62512 小时前
高性能网络技术演进与创新探索:RDMA、eBPF/XDP 深度解析及 LSF/MM/BPF 2023 专题演讲
linux·ebpf·linux kernel·kernel·rdma·xdp
名字还没想好☜12 小时前
Python itertools 实战:用 groupby、chain、islice 优雅处理大数据流
linux·windows·python·迭代器·itertools
zh_xuan14 小时前
安卓上 mmap读取并修改文件内容
android·mmap
二流小码农14 小时前
鸿蒙开发:实现文本渐变效果
android·ios·harmonyos
ziguo112215 小时前
深入浅出 C/C++ 数据类型:从入门到踩坑
linux·c语言·c++·windows·visual studio
无垠的广袤15 小时前
【工业树莓派 CM0 Dev Board】扩展板设计
linux·python·嵌入式硬件·pcb设计·模块化·传感器
会编程的土豆15 小时前
MySQL 入门:库、表、行、主键是什么
linux·数据库·网络协议·http