🚀OpenAI重磅开源gpt-oss系列模型!本地部署+客观深度测评!开源模型中的王者gpt-oss-120B和gpt-oss-20B!从幻觉测试到代码生成,

🔥🔥🔥本篇笔记所对应的视频:www.bilibili.com/video/BV1Wg...

重磅!OpenAI终于开源了,GPT-OSS来了!

OpenAI终于兑现承诺,正式发布了两款开源AI模型------GPT-OSS!

是的,你没有听错,就是那个一直以来都很"封闭"的OpenAI,现在真的开源了。这次发布的两个模型分别叫做gpt-oss-120bgpt-oss-20b,现在就能免费下载使用!

什么是GPT-OSS?

简单来说,GPT-OSS就是OpenAI推出的开放权重语言模型,专门为推理任务、智能体应用和各种开发场景设计。

这两个模型有什么区别呢?

🔥 GPT-OSS-120B(大模型)

  • 参数量:1170亿(激活参数51亿)
  • 适合:数据中心、高端台式机和笔记本
  • 需要:至少60GB显存或统一内存
  • 性能:接近OpenAI的o4-mini水平

⚡ GPT-OSS-20B(小模型)

  • 参数量:210亿(激活参数36亿)
  • 适合:大多数台式机和笔记本
  • 需要:仅16GB内存即可运行
  • 特点:完美适配苹果Silicon Mac和高端消费级GPU

有多强?

OpenAI这次真的没有藏着掖着。根据官方测试数据:

  • 编程能力:在Codeforces竞赛编程上表现优秀
  • 数学推理:在AIME数学竞赛中表现出色
  • 工具使用:支持网页搜索、Python代码执行
  • 通用问题解决:在MMLU等标准测试中表现强劲

最关键的是,小模型GPT-OSS-20B虽然参数少,但在很多任务上竟然能超越OpenAI自家的o3-mini!

三种推理模式,随心切换

这里要重点介绍一个很酷的功能------可调节推理强度

就像汽车有节能模式和运动模式一样,GPT-OSS也提供了三种推理模式:

  • 低强度:快速响应,适合日常对话
  • 中强度:平衡速度和质量
  • 高强度:深度分析,适合复杂任务

只需要在系统提示中加一句话就能切换,比如"推理强度:高",是不是超简单?

开发者的福音

作为一个技术爱好者,我最兴奋的是这些特性:

🆓 Apache 2.0许可证

  • 完全免费商用
  • 没有版权限制
  • 可以随意定制修改

🔧 完整工具链支持

  • 支持Transformers、vLLM、llama.cpp
  • 兼容Ollama本地运行
  • 原生支持函数调用和结构化输出

🖥️ 本地部署友好

  • 大模型:单张H100就能跑
  • 小模型:普通游戏电脑都能运行
  • 支持AMD、NVIDIA等多种硬件

安全性也没落下

很多人担心开源模型的安全问题,OpenAI这次也想到了。他们专门做了"对抗性微调"测试,就是故意训练一个"坏"版本的模型,看看能不能被用来做坏事。

结果显示,即便是恶意微调,GPT-OSS也达不到他们内部定义的"高风险"级别。而且整个测试过程还请了外部专家审查,可以说是相当负责任了。

怎么开始使用?

想要体验GPT-OSS,有几种方式:

在线体验

  • 访问gpt-oss.com直接试用
  • 使用Hugging Face的在线演示

本地部署

ini 复制代码
pip install -U transformers kernels torch 

from transformers import pipeline
import torch

model_id = "openai/gpt-oss-20b"

pipe = pipeline(
    "text-generation",
    model=model_id,
    torch_dtype="auto",
    device_map="auto",
)

messages = [
    {"role": "user", "content": "Explain quantum mechanics clearly and concisely."},
]

outputs = pipe(
    messages,
    max_new_tokens=256,
)
print(outputs[0]["generated_text"][-1])

# vLLM
uv pip install --pre vllm==0.10.1+gptoss \
    --extra-index-url <https://wheels.vllm.ai/gpt-oss/> \
    --extra-index-url <https://download.pytorch.org/whl/nightly/cu128> \
    --index-strategy unsafe-best-match

vllm serve openai/gpt-oss-20b

# ollama
# gpt-oss-20b
ollama pull gpt-oss:20b
ollama run gpt-oss:20b

# LM Studio
# gpt-oss-20b
lms get openai/gpt-oss-20b

开发集成: 如果你是开发者,可以直接用Transformers库集成到自己的项目中。

意义深远

说实话,OpenAI这次开源真的意义重大:

  1. 打破垄断:让更多人能够接触到先进的AI技术
  2. 促进创新:开发者可以基于这些模型创造更多应用
  3. 降低门槛:小公司和个人开发者也能用上高质量AI
  4. 推动发展:开源社区的力量将加速AI技术进步

写在最后

从GPT-2的开源到现在的GPT-OSS,OpenAI终于又回到了开源的路上。虽然这些模型还比不上他们最强的GPT-4o或o3,但已经足够强大,能满足大部分实际应用需求。

对于我们普通用户来说,这意味着:

  • 可以在自己的设备上运行强大的AI
  • 不用担心数据隐私问题
  • 可以根据需求自定义模型
  • 完全免费使用

AIGC的时代真的来了!大家赶紧去试试吧~


想了解更多AI资讯?关注我,第一时间获取最新动态!

相关推荐
春末的南方城市2 小时前
统一虚拟试穿框架OmniTry:突破服装局限,实现多品类可穿戴物品虚拟试穿无蒙版新跨越。
人工智能·深度学习·机器学习·计算机视觉·aigc
用户5191495848452 小时前
HTTP/3/QUIC TLS密码套件配置错误漏洞分析
人工智能·aigc
Mintopia2 小时前
AIGC 多模态大模型在 Web 场景中的融合技术与挑战
前端·javascript·aigc
PetterHillWater3 小时前
Qoder特色功能仓库wiki索引
aigc
精灵vector3 小时前
基于视觉的网页浏览Langraph Agent
python·aigc·ai编程
机器之心3 小时前
DeepSeek刚提到FP8,英伟达就把FP4精度推向预训练,更快、更便宜
人工智能·openai
墨风如雪14 小时前
刷爆AI圈!字节Waver 1.0,统一视频生成新里程碑!
aigc
程序员X小鹿14 小时前
火爆全网的神秘模型Nano Banana曝出真身!P图新王!(附免费入口)
aigc
机器之心18 小时前
谷歌nano banana正式上线:单图成本不到3毛钱,比OpenAI便宜95%
人工智能·openai
机器之心18 小时前
拒稿警告,靠大模型「偷摸水论文」被堵死,ICLR最严新规来了
人工智能·openai