🚀OpenAI重磅开源gpt-oss系列模型!本地部署+客观深度测评!开源模型中的王者gpt-oss-120B和gpt-oss-20B!从幻觉测试到代码生成,

🔥🔥🔥本篇笔记所对应的视频:www.bilibili.com/video/BV1Wg...

重磅!OpenAI终于开源了,GPT-OSS来了!

OpenAI终于兑现承诺,正式发布了两款开源AI模型------GPT-OSS!

是的,你没有听错,就是那个一直以来都很"封闭"的OpenAI,现在真的开源了。这次发布的两个模型分别叫做gpt-oss-120bgpt-oss-20b,现在就能免费下载使用!

什么是GPT-OSS?

简单来说,GPT-OSS就是OpenAI推出的开放权重语言模型,专门为推理任务、智能体应用和各种开发场景设计。

这两个模型有什么区别呢?

🔥 GPT-OSS-120B(大模型)

  • 参数量:1170亿(激活参数51亿)
  • 适合:数据中心、高端台式机和笔记本
  • 需要:至少60GB显存或统一内存
  • 性能:接近OpenAI的o4-mini水平

⚡ GPT-OSS-20B(小模型)

  • 参数量:210亿(激活参数36亿)
  • 适合:大多数台式机和笔记本
  • 需要:仅16GB内存即可运行
  • 特点:完美适配苹果Silicon Mac和高端消费级GPU

有多强?

OpenAI这次真的没有藏着掖着。根据官方测试数据:

  • 编程能力:在Codeforces竞赛编程上表现优秀
  • 数学推理:在AIME数学竞赛中表现出色
  • 工具使用:支持网页搜索、Python代码执行
  • 通用问题解决:在MMLU等标准测试中表现强劲

最关键的是,小模型GPT-OSS-20B虽然参数少,但在很多任务上竟然能超越OpenAI自家的o3-mini!

三种推理模式,随心切换

这里要重点介绍一个很酷的功能------可调节推理强度

就像汽车有节能模式和运动模式一样,GPT-OSS也提供了三种推理模式:

  • 低强度:快速响应,适合日常对话
  • 中强度:平衡速度和质量
  • 高强度:深度分析,适合复杂任务

只需要在系统提示中加一句话就能切换,比如"推理强度:高",是不是超简单?

开发者的福音

作为一个技术爱好者,我最兴奋的是这些特性:

🆓 Apache 2.0许可证

  • 完全免费商用
  • 没有版权限制
  • 可以随意定制修改

🔧 完整工具链支持

  • 支持Transformers、vLLM、llama.cpp
  • 兼容Ollama本地运行
  • 原生支持函数调用和结构化输出

🖥️ 本地部署友好

  • 大模型:单张H100就能跑
  • 小模型:普通游戏电脑都能运行
  • 支持AMD、NVIDIA等多种硬件

安全性也没落下

很多人担心开源模型的安全问题,OpenAI这次也想到了。他们专门做了"对抗性微调"测试,就是故意训练一个"坏"版本的模型,看看能不能被用来做坏事。

结果显示,即便是恶意微调,GPT-OSS也达不到他们内部定义的"高风险"级别。而且整个测试过程还请了外部专家审查,可以说是相当负责任了。

怎么开始使用?

想要体验GPT-OSS,有几种方式:

在线体验

  • 访问gpt-oss.com直接试用
  • 使用Hugging Face的在线演示

本地部署

ini 复制代码
pip install -U transformers kernels torch 

from transformers import pipeline
import torch

model_id = "openai/gpt-oss-20b"

pipe = pipeline(
    "text-generation",
    model=model_id,
    torch_dtype="auto",
    device_map="auto",
)

messages = [
    {"role": "user", "content": "Explain quantum mechanics clearly and concisely."},
]

outputs = pipe(
    messages,
    max_new_tokens=256,
)
print(outputs[0]["generated_text"][-1])

# vLLM
uv pip install --pre vllm==0.10.1+gptoss \
    --extra-index-url <https://wheels.vllm.ai/gpt-oss/> \
    --extra-index-url <https://download.pytorch.org/whl/nightly/cu128> \
    --index-strategy unsafe-best-match

vllm serve openai/gpt-oss-20b

# ollama
# gpt-oss-20b
ollama pull gpt-oss:20b
ollama run gpt-oss:20b

# LM Studio
# gpt-oss-20b
lms get openai/gpt-oss-20b

开发集成: 如果你是开发者,可以直接用Transformers库集成到自己的项目中。

意义深远

说实话,OpenAI这次开源真的意义重大:

  1. 打破垄断:让更多人能够接触到先进的AI技术
  2. 促进创新:开发者可以基于这些模型创造更多应用
  3. 降低门槛:小公司和个人开发者也能用上高质量AI
  4. 推动发展:开源社区的力量将加速AI技术进步

写在最后

从GPT-2的开源到现在的GPT-OSS,OpenAI终于又回到了开源的路上。虽然这些模型还比不上他们最强的GPT-4o或o3,但已经足够强大,能满足大部分实际应用需求。

对于我们普通用户来说,这意味着:

  • 可以在自己的设备上运行强大的AI
  • 不用担心数据隐私问题
  • 可以根据需求自定义模型
  • 完全免费使用

AIGC的时代真的来了!大家赶紧去试试吧~


想了解更多AI资讯?关注我,第一时间获取最新动态!

相关推荐
AIGCmagic社区7 小时前
KITTI AbsRel从6.5压到5.4,Marigold V2用一张32GB卡把编辑DiT收成单步深度估计
人工智能·算法·aigc·ai多模态
win4r16 小时前
RSI真的临近了吗?AI开始改进AI,但“智能爆炸”还差关键一跳
aigc·openai·ai编程
京东云开发者18 小时前
81.8 秒的视频,我们改了 15 个版本:一次纯 Codex 驱动的 AI-native 视频实践
前端·aigc
Csvn19 小时前
第 23 章 性能、成本与部署
人工智能·aigc·agent
牛油果子哥q20 小时前
LLM安全与内容风控全栈落地: Prompt注入、越狱攻击、幻觉风控、敏感词过滤、C++风控网关、多级审核体系、线上攻防实战
ai·llm
日常通勤穿搭20 小时前
电商 AI 生图工具横评|AI 生成主图、详情套图工具哪家性价比高
人工智能·aigc·电商美工
AIGC大时代1 天前
OpenAI Agents SDK 工程笔记:streaming 流式输出与生产禁区
openai·streaming·生产禁区·run_streamed·streamevent
武子康1 天前
小智服务端怎样组织 ASR、LLM、TTS?先追本次连接实际使用的对象
人工智能·llm·agent
ServBay1 天前
ServBay 1.33.0 来了:AI Gateway 一键接管主流 AI CLI 与多模型
后端·aigc·ai编程
袋鼠云数栈UED团队1 天前
AI Coding 方法论分析:同一个需求 SpecKit 、 Superpowers、 MattpocockSkills 不同设计
前端·aigc·ai编程