🚀OpenAI重磅开源gpt-oss系列模型!本地部署+客观深度测评!开源模型中的王者gpt-oss-120B和gpt-oss-20B!从幻觉测试到代码生成,

🔥🔥🔥本篇笔记所对应的视频:www.bilibili.com/video/BV1Wg...

重磅!OpenAI终于开源了,GPT-OSS来了!

OpenAI终于兑现承诺,正式发布了两款开源AI模型------GPT-OSS!

是的,你没有听错,就是那个一直以来都很"封闭"的OpenAI,现在真的开源了。这次发布的两个模型分别叫做gpt-oss-120b和gpt-oss-20b,现在就能免费下载使用!

什么是GPT-OSS?

简单来说,GPT-OSS就是OpenAI推出的开放权重语言模型,专门为推理任务、智能体应用和各种开发场景设计。

这两个模型有什么区别呢?

🔥 GPT-OSS-120B(大模型)

  • 参数量:1170亿(激活参数51亿)
  • 适合:数据中心、高端台式机和笔记本
  • 需要:至少60GB显存或统一内存
  • 性能:接近OpenAI的o4-mini水平

⚡ GPT-OSS-20B(小模型)

  • 参数量:210亿(激活参数36亿)
  • 适合:大多数台式机和笔记本
  • 需要:仅16GB内存即可运行
  • 特点:完美适配苹果Silicon Mac和高端消费级GPU

有多强?

OpenAI这次真的没有藏着掖着。根据官方测试数据:

  • 编程能力:在Codeforces竞赛编程上表现优秀
  • 数学推理:在AIME数学竞赛中表现出色
  • 工具使用:支持网页搜索、Python代码执行
  • 通用问题解决:在MMLU等标准测试中表现强劲

最关键的是,小模型GPT-OSS-20B虽然参数少,但在很多任务上竟然能超越OpenAI自家的o3-mini!

三种推理模式,随心切换

这里要重点介绍一个很酷的功能------可调节推理强度!

就像汽车有节能模式和运动模式一样,GPT-OSS也提供了三种推理模式:

  • 低强度:快速响应,适合日常对话
  • 中强度:平衡速度和质量
  • 高强度:深度分析,适合复杂任务

只需要在系统提示中加一句话就能切换,比如"推理强度:高",是不是超简单?

开发者的福音

作为一个技术爱好者,我最兴奋的是这些特性:

🆓 Apache 2.0许可证

  • 完全免费商用
  • 没有版权限制
  • 可以随意定制修改

🔧 完整工具链支持

  • 支持Transformers、vLLM、llama.cpp
  • 兼容Ollama本地运行
  • 原生支持函数调用和结构化输出

🖥️ 本地部署友好

  • 大模型:单张H100就能跑
  • 小模型:普通游戏电脑都能运行
  • 支持AMD、NVIDIA等多种硬件

安全性也没落下

很多人担心开源模型的安全问题,OpenAI这次也想到了。他们专门做了"对抗性微调"测试,就是故意训练一个"坏"版本的模型,看看能不能被用来做坏事。

结果显示,即便是恶意微调,GPT-OSS也达不到他们内部定义的"高风险"级别。而且整个测试过程还请了外部专家审查,可以说是相当负责任了。

怎么开始使用?

想要体验GPT-OSS,有几种方式:

在线体验:

  • 访问gpt-oss.com直接试用
  • 使用Hugging Face的在线演示

本地部署:

ini 复制代码
pip install -U transformers kernels torch 

from transformers import pipeline
import torch

model_id = "openai/gpt-oss-20b"

pipe = pipeline(
    "text-generation",
    model=model_id,
    torch_dtype="auto",
    device_map="auto",
)

messages = [
    {"role": "user", "content": "Explain quantum mechanics clearly and concisely."},
]

outputs = pipe(
    messages,
    max_new_tokens=256,
)
print(outputs[0]["generated_text"][-1])

# vLLM
uv pip install --pre vllm==0.10.1+gptoss \
    --extra-index-url <https://wheels.vllm.ai/gpt-oss/> \
    --extra-index-url <https://download.pytorch.org/whl/nightly/cu128> \
    --index-strategy unsafe-best-match

vllm serve openai/gpt-oss-20b

# ollama
# gpt-oss-20b
ollama pull gpt-oss:20b
ollama run gpt-oss:20b

# LM Studio
# gpt-oss-20b
lms get openai/gpt-oss-20b

开发集成: 如果你是开发者,可以直接用Transformers库集成到自己的项目中。

意义深远

说实话,OpenAI这次开源真的意义重大:

  1. 打破垄断:让更多人能够接触到先进的AI技术
  2. 促进创新:开发者可以基于这些模型创造更多应用
  3. 降低门槛:小公司和个人开发者也能用上高质量AI
  4. 推动发展:开源社区的力量将加速AI技术进步

写在最后

从GPT-2的开源到现在的GPT-OSS,OpenAI终于又回到了开源的路上。虽然这些模型还比不上他们最强的GPT-4o或o3,但已经足够强大,能满足大部分实际应用需求。

对于我们普通用户来说,这意味着:

  • 可以在自己的设备上运行强大的AI
  • 不用担心数据隐私问题
  • 可以根据需求自定义模型
  • 完全免费使用

AIGC的时代真的来了!大家赶紧去试试吧~


想了解更多AI资讯?关注我,第一时间获取最新动态!

相关推荐
LV技术派3 小时前
肝了一周,我把 Super Agent 的架构融入到了我的 AI Native 工作台中
aigc·ai编程
stormzhangV5 小时前
Google 重返第一梯队
人工智能·google·aigc
小虎AI生活9 小时前
8万星开源HyperFrames,我用WorkBuddy免费模型做了3条视频
aigc·ai编程
用户95179422510299 小时前
Agent Harness 工程(I5):权限与沙箱——让否决改变控制流
llm·agent
ZhengEnCi1 天前
AI 读不懂你的代码怎么办:用高价值注释消除曲解、过度优化与上下文膨胀
aigc·ai编程
泯泷1 天前
OpenClaw 退潮背后,是 AI 圈“技术自嗨”的终结
人工智能·chatgpt·llm
爱查宝小二1 天前
爱查宝降AIGC效果实测与过检能力展示
aigc
花椒技术1 天前
从“实时生成游戏”出发,我们用 AI 做了四次游戏开发尝试
人工智能·aigc·游戏开发
泯泷1 天前
当"孤独的开发者"成为常态,AI正在悄悄杀死那个我们熟悉的互联网
人工智能·chatgpt·llm
花椒技术1 天前
数字人为什么突然爆发?从 H3 Max Lip Sync 看生成式数字人的临界点
人工智能·aigc