大模型学习day4

一、开源大模型 VS 闭源大模型 彻底讲透

1. 闭源大模型

  • 不公开模型权重、不公开源码
  • 不能本地部署、不能自己微调
  • 只能调用官方开放 API 使用
  • 代表:文心一言、讯飞星火、通义千问官网版、智谱清言
  • 优点:稳定、省心、不用搭环境、接口成熟
  • 缺点:按调用收费、数据要外传、没法私有化部署

2. 开源大模型

  • 公开模型权重、部分开源源码
  • 可以免费下载、本地 / 服务器部署
  • 可以自己二次微调、私有化使用
  • 代表:Qwen 通义千问、DeepSeek、Llama、GLM
  • 优点:本地跑不花钱、数据不出内网、可定制微调
  • 缺点:需要自己搭环境、配置电脑 / 服务器、部分部署有门槛

二、适合前端开发者怎么选

  1. 日常开发、快速做项目 → 先用闭源 API
  2. 想做私有化项目、本地离线 AI 功能 → 用开源模型本地部署

三、模型大小档位 行业通用划分

  • 小参数:1B~7B 适合本地电脑跑、写前端代码足够用
  • 中参数:14B~34B 推理更强、适合企业业务问答
  • 大参数:70B+ 超强推理、需要高配服务器,个人一般用不上

四、本地能不能跑大模型?

普通个人电脑(笔记本 / 台式):

  • 轻松跑:7B 及以下开源模型
  • 勉强跑:14B 模型
  • 34B、70B 个人电脑带不动,必须服务器

五、API 调用 通俗理解

不管开源还是闭源,前端对接都靠 HTTP 接口和你平时调后端接口一模一样:

  • 传参:发文本提问
  • 响应:返回大模型生成的内容后续要学的流式输出,也是基于 API 接口实现。

六、今日必背核心总结

  1. 闭源:只能调 API,不能本地部署、不能私自微调;
  2. 开源:可下权重、本地部署、可二次微调;
  3. 前端快速开发优先用闭源 API,私有化用开源;
  4. 7B 小模型个人电脑就能跑,写前端代码完全够用;
  5. 大模型对接本质就是调 HTTP 接口,和前端调后端接口逻辑一样。
相关推荐
楚国的小隐士2 小时前
在生产环境中和AI协作编程
ai·大模型·编程·软件工程·ai编程·软件架构
IT·陈寒6 小时前
Redis内存暴涨时,我忘记检查这个参数
人工智能·大模型·api·创业·变现·简历优化
程序猿编码8 小时前
LLM+Agent 全栈推理底座:Triton 算子优化・语义级缓存・分布式调度
大模型·llm·agent·推理
guwentian8 小时前
端侧大模型上线 8 个月,给我们上了 4 课
大模型·测试
小白跃升坊9 小时前
大模型推理入门:从原理到实践
ai·大模型·llm·推理优化
Web3&Basketball9 小时前
LLM 峰谷定价怎么吃满:一个能对账的错峰调度器
python·性能优化·大模型·任务调度·成本优化·deepseek·推理优化
韩曙亮11 小时前
【AI 大模型】国内各平台 AI 大模型 价格、性能 对比分析 ② ( 智谱 BigModel | 腾讯云 TokenHub | 千问 AI 平台 )
人工智能·ai·大模型·腾讯云·ai大模型·千问·智谱
Albart57512 小时前
大模型无限循环输出、重复生成文本:参数层面规避幻觉输出实战
大模型·llm·vllm·大模型推理·幻觉·重复输出
苏打水com13 小时前
内容合规红线:大模型生成内容,哪些能做哪些会犯法?
人工智能·安全·大模型
余槐i13 小时前
使用Ollama本地部署和测试Kimi、GLM等多款大语言模型实战
人工智能·语言模型·自然语言处理·大模型·api