大模型学习day4

一、开源大模型 VS 闭源大模型 彻底讲透

1. 闭源大模型

  • 不公开模型权重、不公开源码
  • 不能本地部署、不能自己微调
  • 只能调用官方开放 API 使用
  • 代表:文心一言、讯飞星火、通义千问官网版、智谱清言
  • 优点:稳定、省心、不用搭环境、接口成熟
  • 缺点:按调用收费、数据要外传、没法私有化部署

2. 开源大模型

  • 公开模型权重、部分开源源码
  • 可以免费下载、本地 / 服务器部署
  • 可以自己二次微调、私有化使用
  • 代表:Qwen 通义千问、DeepSeek、Llama、GLM
  • 优点:本地跑不花钱、数据不出内网、可定制微调
  • 缺点:需要自己搭环境、配置电脑 / 服务器、部分部署有门槛

二、适合前端开发者怎么选

  1. 日常开发、快速做项目 → 先用闭源 API
  2. 想做私有化项目、本地离线 AI 功能 → 用开源模型本地部署

三、模型大小档位 行业通用划分

  • 小参数:1B~7B 适合本地电脑跑、写前端代码足够用
  • 中参数:14B~34B 推理更强、适合企业业务问答
  • 大参数:70B+ 超强推理、需要高配服务器,个人一般用不上

四、本地能不能跑大模型?

普通个人电脑(笔记本 / 台式):

  • 轻松跑:7B 及以下开源模型
  • 勉强跑:14B 模型
  • 34B、70B 个人电脑带不动,必须服务器

五、API 调用 通俗理解

不管开源还是闭源,前端对接都靠 HTTP 接口和你平时调后端接口一模一样:

  • 传参:发文本提问
  • 响应:返回大模型生成的内容后续要学的流式输出,也是基于 API 接口实现。

六、今日必背核心总结

  1. 闭源:只能调 API,不能本地部署、不能私自微调;
  2. 开源:可下权重、本地部署、可二次微调;
  3. 前端快速开发优先用闭源 API,私有化用开源;
  4. 7B 小模型个人电脑就能跑,写前端代码完全够用;
  5. 大模型对接本质就是调 HTTP 接口,和前端调后端接口逻辑一样。
相关推荐
夏文强4 小时前
Rerank 与混合检索:怎么让 RAG 从「能用」变成「好用」
人工智能·大模型·向量数据库·rag·检索增强生成
小哈里11 小时前
【编译器】从计算机系统原理到 LLM 编译器与算子优化
大模型·编译器·1024程序员节·计算机系统原理·算子优化·推理平台
虎鲸不是鱼11 小时前
AI 自动化逆向(十七)解码器、反汇编器、反编译器:能力边界表
人工智能·自动化·大模型·逆向·ai逆向
天树星智源11 小时前
相机轨迹为什么对不上:问题不在控制模块,而在两段噪声不是同一份
论文阅读·机器人·大模型
Magicdata大数据12 小时前
AI辅助教学:调用大模型从教材中生成习题,方便学员练习
java·spring boot·大模型·知识图谱·neo4j·ai辅助教学
84869811912 小时前
RAGFlow v1.0 企业级 RAG 落地实录:从零部署到 RAGAS 评估闭环(全踩坑记录)
人工智能·大模型·rag·ragflow·ragas
一级新生1 天前
提示词工程:跟 AI 打交道的手艺
人工智能·大模型·dify·1024程序员节·提示词工程
Sakura_j_h_1 天前
给 FastAPI 接大模型:超时、重试和 token 成本该怎么管
python·大模型·fastapi·超时重试·token计费
代码山河1 天前
大模型的幻觉是什么?为什么会产生幻觉
人工智能·ai·大模型
zzu123zsw1 天前
为什么 Python 做 Agent 总在并发中崩溃?拆解 Blockcell 在 Rust 下的 Host-Cell 隔离与自愈状态机
开发语言·python·rust·大模型·ai agent