🔥🔥🔥本篇笔记所对应的视频:www.bilibili.com/video/BV1Wg...
重磅!OpenAI终于开源了,GPT-OSS来了!
OpenAI终于兑现承诺,正式发布了两款开源AI模型------GPT-OSS!
是的,你没有听错,就是那个一直以来都很"封闭"的OpenAI,现在真的开源了。这次发布的两个模型分别叫做gpt-oss-120b
和gpt-oss-20b
,现在就能免费下载使用!
什么是GPT-OSS?
简单来说,GPT-OSS就是OpenAI推出的开放权重语言模型,专门为推理任务、智能体应用和各种开发场景设计。
这两个模型有什么区别呢?
🔥 GPT-OSS-120B(大模型)
- 参数量:1170亿(激活参数51亿)
- 适合:数据中心、高端台式机和笔记本
- 需要:至少60GB显存或统一内存
- 性能:接近OpenAI的o4-mini水平
⚡ GPT-OSS-20B(小模型)
- 参数量:210亿(激活参数36亿)
- 适合:大多数台式机和笔记本
- 需要:仅16GB内存即可运行
- 特点:完美适配苹果Silicon Mac和高端消费级GPU
有多强?
OpenAI这次真的没有藏着掖着。根据官方测试数据:
- 编程能力:在Codeforces竞赛编程上表现优秀
- 数学推理:在AIME数学竞赛中表现出色
- 工具使用:支持网页搜索、Python代码执行
- 通用问题解决:在MMLU等标准测试中表现强劲
最关键的是,小模型GPT-OSS-20B虽然参数少,但在很多任务上竟然能超越OpenAI自家的o3-mini!
三种推理模式,随心切换
这里要重点介绍一个很酷的功能------可调节推理强度!
就像汽车有节能模式和运动模式一样,GPT-OSS也提供了三种推理模式:
- 低强度:快速响应,适合日常对话
- 中强度:平衡速度和质量
- 高强度:深度分析,适合复杂任务
只需要在系统提示中加一句话就能切换,比如"推理强度:高",是不是超简单?
开发者的福音
作为一个技术爱好者,我最兴奋的是这些特性:
🆓 Apache 2.0许可证
- 完全免费商用
- 没有版权限制
- 可以随意定制修改
🔧 完整工具链支持
- 支持Transformers、vLLM、llama.cpp
- 兼容Ollama本地运行
- 原生支持函数调用和结构化输出
🖥️ 本地部署友好
- 大模型:单张H100就能跑
- 小模型:普通游戏电脑都能运行
- 支持AMD、NVIDIA等多种硬件
安全性也没落下
很多人担心开源模型的安全问题,OpenAI这次也想到了。他们专门做了"对抗性微调"测试,就是故意训练一个"坏"版本的模型,看看能不能被用来做坏事。
结果显示,即便是恶意微调,GPT-OSS也达不到他们内部定义的"高风险"级别。而且整个测试过程还请了外部专家审查,可以说是相当负责任了。
怎么开始使用?
想要体验GPT-OSS,有几种方式:
在线体验:
- 访问gpt-oss.com直接试用
- 使用Hugging Face的在线演示
本地部署:
ini
pip install -U transformers kernels torch
from transformers import pipeline
import torch
model_id = "openai/gpt-oss-20b"
pipe = pipeline(
"text-generation",
model=model_id,
torch_dtype="auto",
device_map="auto",
)
messages = [
{"role": "user", "content": "Explain quantum mechanics clearly and concisely."},
]
outputs = pipe(
messages,
max_new_tokens=256,
)
print(outputs[0]["generated_text"][-1])
# vLLM
uv pip install --pre vllm==0.10.1+gptoss \
--extra-index-url <https://wheels.vllm.ai/gpt-oss/> \
--extra-index-url <https://download.pytorch.org/whl/nightly/cu128> \
--index-strategy unsafe-best-match
vllm serve openai/gpt-oss-20b
# ollama
# gpt-oss-20b
ollama pull gpt-oss:20b
ollama run gpt-oss:20b
# LM Studio
# gpt-oss-20b
lms get openai/gpt-oss-20b
开发集成: 如果你是开发者,可以直接用Transformers库集成到自己的项目中。
意义深远
说实话,OpenAI这次开源真的意义重大:
- 打破垄断:让更多人能够接触到先进的AI技术
- 促进创新:开发者可以基于这些模型创造更多应用
- 降低门槛:小公司和个人开发者也能用上高质量AI
- 推动发展:开源社区的力量将加速AI技术进步
写在最后
从GPT-2的开源到现在的GPT-OSS,OpenAI终于又回到了开源的路上。虽然这些模型还比不上他们最强的GPT-4o或o3,但已经足够强大,能满足大部分实际应用需求。
对于我们普通用户来说,这意味着:
- 可以在自己的设备上运行强大的AI
- 不用担心数据隐私问题
- 可以根据需求自定义模型
- 完全免费使用
AIGC的时代真的来了!大家赶紧去试试吧~
想了解更多AI资讯?关注我,第一时间获取最新动态!