大模型学习day4

一、开源大模型 VS 闭源大模型 彻底讲透

1. 闭源大模型

  • 不公开模型权重、不公开源码
  • 不能本地部署、不能自己微调
  • 只能调用官方开放 API 使用
  • 代表:文心一言、讯飞星火、通义千问官网版、智谱清言
  • 优点:稳定、省心、不用搭环境、接口成熟
  • 缺点:按调用收费、数据要外传、没法私有化部署

2. 开源大模型

  • 公开模型权重、部分开源源码
  • 可以免费下载、本地 / 服务器部署
  • 可以自己二次微调、私有化使用
  • 代表:Qwen 通义千问、DeepSeek、Llama、GLM
  • 优点:本地跑不花钱、数据不出内网、可定制微调
  • 缺点:需要自己搭环境、配置电脑 / 服务器、部分部署有门槛

二、适合前端开发者怎么选

  1. 日常开发、快速做项目 → 先用闭源 API
  2. 想做私有化项目、本地离线 AI 功能 → 用开源模型本地部署

三、模型大小档位 行业通用划分

  • 小参数:1B~7B 适合本地电脑跑、写前端代码足够用
  • 中参数:14B~34B 推理更强、适合企业业务问答
  • 大参数:70B+ 超强推理、需要高配服务器,个人一般用不上

四、本地能不能跑大模型?

普通个人电脑(笔记本 / 台式):

  • 轻松跑:7B 及以下开源模型
  • 勉强跑:14B 模型
  • 34B、70B 个人电脑带不动,必须服务器

五、API 调用 通俗理解

不管开源还是闭源,前端对接都靠 HTTP 接口和你平时调后端接口一模一样:

  • 传参:发文本提问
  • 响应:返回大模型生成的内容后续要学的流式输出,也是基于 API 接口实现。

六、今日必背核心总结

  1. 闭源:只能调 API,不能本地部署、不能私自微调;
  2. 开源:可下权重、本地部署、可二次微调;
  3. 前端快速开发优先用闭源 API,私有化用开源;
  4. 7B 小模型个人电脑就能跑,写前端代码完全够用;
  5. 大模型对接本质就是调 HTTP 接口,和前端调后端接口逻辑一样。
相关推荐
安逸sgr44 分钟前
如何减少 Prompt 引起的幻觉和答非所问?
人工智能·ai·大模型·prompt·agent·智能体
小马9261 小时前
GPT-6 Swarm 架构深度解析:从单体模型到 Agent 集群协同的范式跃迁
gpt·架构·大模型·openai·agent·分布式ai·swarm架构
thesky12345617 小时前
27届大模型岗面试准备(十四):多模态大模型 VLM——从视觉编码器到多模态推理的完整链路
人工智能·ai·大模型
aqi001 天前
15天学会AI应用开发(十八)使用LangGraph实现精确记忆功能
人工智能·python·大模型·ai编程·ai应用
小白跃升坊1 天前
WorkBuddy最新动态:V5.3.5上线人机双写,AI办公进入同屏协作时代
大模型
煎饼学大模型1 天前
从 Harness 工程到 Loop 工程落地实践
人工智能·大模型·harness
gsls2008081 天前
大模型供应商API端点兼容协议
大模型·api·协议·兼容
小白跃升坊2 天前
倒反天罡!DeepSeek V4-Flash 正式版悄然上线:130亿激活参数,把自家1.6万亿旗舰「以下克上」
ai·大模型·agent·deepseek·v4
才鲸嵌入式2 天前
JEPA具身智能或自动驾驶路线的公司
人工智能·机器学习·大模型·自动驾驶·具身智能·通用人工智能·jepa
安逸sgr2 天前
ReAct 是什么?Thought、Action、Observation 分别代表什么?
人工智能·ai·大模型·agent·智能体