大模型学习day4

一、开源大模型 VS 闭源大模型 彻底讲透

1. 闭源大模型

  • 不公开模型权重、不公开源码
  • 不能本地部署、不能自己微调
  • 只能调用官方开放 API 使用
  • 代表:文心一言、讯飞星火、通义千问官网版、智谱清言
  • 优点:稳定、省心、不用搭环境、接口成熟
  • 缺点:按调用收费、数据要外传、没法私有化部署

2. 开源大模型

  • 公开模型权重、部分开源源码
  • 可以免费下载、本地 / 服务器部署
  • 可以自己二次微调、私有化使用
  • 代表:Qwen 通义千问、DeepSeek、Llama、GLM
  • 优点:本地跑不花钱、数据不出内网、可定制微调
  • 缺点:需要自己搭环境、配置电脑 / 服务器、部分部署有门槛

二、适合前端开发者怎么选

  1. 日常开发、快速做项目 → 先用闭源 API
  2. 想做私有化项目、本地离线 AI 功能 → 用开源模型本地部署

三、模型大小档位 行业通用划分

  • 小参数:1B~7B 适合本地电脑跑、写前端代码足够用
  • 中参数:14B~34B 推理更强、适合企业业务问答
  • 大参数:70B+ 超强推理、需要高配服务器,个人一般用不上

四、本地能不能跑大模型?

普通个人电脑(笔记本 / 台式):

  • 轻松跑:7B 及以下开源模型
  • 勉强跑:14B 模型
  • 34B、70B 个人电脑带不动,必须服务器

五、API 调用 通俗理解

不管开源还是闭源,前端对接都靠 HTTP 接口和你平时调后端接口一模一样:

  • 传参:发文本提问
  • 响应:返回大模型生成的内容后续要学的流式输出,也是基于 API 接口实现。

六、今日必背核心总结

  1. 闭源:只能调 API,不能本地部署、不能私自微调;
  2. 开源:可下权重、本地部署、可二次微调;
  3. 前端快速开发优先用闭源 API,私有化用开源;
  4. 7B 小模型个人电脑就能跑,写前端代码完全够用;
  5. 大模型对接本质就是调 HTTP 接口,和前端调后端接口逻辑一样。
相关推荐
DogDaoDao6 分钟前
Magma:微软如何用一个模型打通数字与物理世界的 AI Agent
人工智能·微软·机器人·大模型·机器人模型·智能体·magma
李昊哲小课3 小时前
大模型应用开发课程 —— 项目 09~12 完整教程
大数据·人工智能·大模型
天涯明月19934 小时前
AI Agent应用深度研究报告
人工智能·大模型·agent
艾莉丝努力练剑11 小时前
【AI接入大模型SDK】ChatSDK示例验证
人工智能·学习·面试·大模型·sdk
前沿在线17 小时前
百度文心助手推出任务引擎 2.0,日活用户同比增长 83%,日均对话轮次增长超 2 倍
人工智能·ai·大模型
thesky12345620 小时前
27届大模型面试准备(四十四):生成式世界模型与视频生成——从 JEPA 到 Sora/Genie
大模型·视频生成·sora·世界模型·jepa·生成式世界模型·dreamer
赵大仁1 天前
Structured Output 落地:JSON Schema、重试与前端校验
前端·ai·大模型·工程化·json schema
小七-七牛开发者1 天前
dsh 拆解系列 Vol.01:没有特权内核的 Agent 运行时
ai·大模型·agent·claude·token·工作流·skill·claudecode·ai coding
Raas1001 天前
MAI Gateway (魔芋企业级AI网关) 私有化部署全攻略:AI网关怎么部署?附架构图
人工智能·安全·大模型·gateway·ai网关·mai gateway