技术栈
端侧模型
@不误正业
13 天前
人工智能
·
架构
·
agent
·
端侧模型
·
4b
技术线05_端侧小模型不可靠先检查你的Agent架构
面向读者:正在做 RAG、Agent、私有化部署或端侧 AI 应用的工程师。 示例系统:完全离线的质量体系助手,生成模型使用 Qwen3.5-4B,嵌入模型使用 bge-m3,存储使用 SQLite,回答要求可溯源。 结论先说:4B 模型不能像云端大模型那样承担“规划、检索、判断、表达、自检”的全部职责。更稳的做法是把架构拆成记忆预算、意图仲裁、证据计划、引用门禁和受控表达。模型可以参与,但不应该拥有最终裁决权。
在水一缸
3 个月前
人工智能
·
架构
·
云计算
·
技术架构
·
苹果ai
·
端侧模型
·
私有云计算
苹果AI国行版过审背后的技术架构深度解析:端侧模型与私有云计算的融合实践
近日,有关“苹果AI国行版已过审”的消息登上了微博热搜,引发了开发者社区的广泛讨论。对于普通用户而言,这可能仅仅意味着Siri变得更聪明了,或者相册里多了一个“一键P图”的功能。但对于我们技术人来说,这标志着移动端AI应用进入了一个全新的阶段:端侧大模型与区域化私有云部署的深度整合正式落地。
我是有底线的