【实测】用全志A733平板搭建一个端侧Deepseek算力平台

随着DeepSeek 的蒸馏技术的横空出世,端侧 SoC 芯片上运行大模型成为可能。那么端侧芯片跑大模型的效果如何呢?本文将在全志 A733 芯片平台上部署一个 DeepSeek-R1:1.5B 模型,并进行实测效果展示。

端侧平台环境

设备:全志A733平板

系统:Android 15

DDR: 8GB LPDDR5 @2400MHz

Flash:128GB UFS3.0

测试模型:Deepseek-R1-Distill-Qwen-1.5B

首先,我们测试AI经典哲学问题"你是谁?"

输入运行命令之后可看到模型运行起来了,此时我们就可以开始和Deepseek对话了。

从实拍视频可以看到,这个输出速度基本可以满足正常对话的交互体验。

然后我们要求Deepseek"快速写一段代码计算1-9999的和"

实测视频如下:

可以看到,Deepseek会先对题目进行分析,他很快就分辨出了这是一个经典的等差数列求和问题,并给出了计算公式。

然后,可以看到在没有指定编程语言的情况下,Deepseek默认使用python写出了计算代码。

最后,Deepseek对整个解题思路进行了归纳总结。

我们再尝试解一个一元二次方程:"求解方程x^2+4x+4=0"

实测视频如下:

同样,Deepseek也是快速理清了题意,判别出了这是一个解一元二次方程的题目,并给出了求解公式。

然后Deepseek知道先对方程进行重根判别,判别出这道题是只有一个重根的。

最后,Deeepseek 将题目代入公式进行求解,马上便得出了正确的计算结果。

经测试,可以得出结论是Deepseek-R1-Distill-Qwen-1.5B 是可以在全志A733芯片平台的平板电脑上较流畅地运行的,并且可以让Deepseek拥有中学生级别的逻辑推理能力。而这才是一个开始。后续,随着量化技术的不断发展,模型的体积和计算复杂度将进一步降低,从而更好地适应端侧设备的资源限制。未来,我们期待 DeepSeek 在更多场景中发挥其强大的功能,为用户提供更加智能和便捷的体验。

相关推荐
可乐ea7 小时前
MCP 和 CLI 差 42 倍:一次 GitHub 任务的上下文成本实测
人工智能·github·工具调用·ai智能体·openrouter·mcp协议·上下文优化
kyriewen7 小时前
编辑弹窗点了取消,列表里的数据怎么还是变了?
前端·javascript·人工智能
ZhengEnCi7 小时前
项目越写越乱?先别改架构:用一次目录重排 + 一份可复算的体检脚本把乱治住
python·架构·ai编程
Karl_fang7 小时前
🥳 再也不用拿起手机抄验证码!我做了一个 Android → Mac 的「验证码接力」工具
前端·macos·ai编程
泯泷7 小时前
Multica 真正打动我的,不是更多 Agent,而是一种新的团队协作方式
人工智能·llm·agent
电科_银尘7 小时前
【深度学习项目实战·22】灰度图像着色:用小型U-Net学习从灰度到RGB
人工智能·深度学习·学习
阿里云大数据AI技术8 小时前
云栖实录|倍思科技 × 阿里云:让VOC洞察从“生成报告”走向“业务可用”
人工智能·elasticsearch·agent
ZhengEnCi8 小时前
AI 规则越多越费 Token:无关规则让每次回答多耗 46% 的规则体检提示词
aigc·ai编程·claude
AllData公司负责人8 小时前
第九篇:AI大模型数据开发底座系列说明书:AllData集成BISHENG开源项目建设大模型应用开发底座,涵盖可视化编排/智能助手/一键API/模型接入!
人工智能·云原生·数据分析·视觉检测·知识图谱·大模型应用·bisheng
数字新视界8 小时前
数据中心DCIM管理系统助力提升机房管理效率与安全性
大数据·人工智能·物联网·信息与通信·动环监控系统