gpt oss 20b 本地运行

GPT-OSS:20b 专为低延迟、本地或专用用例而设计。

注意:此型号至少需要 16GB 的统一内存(MAC)或 GPU 内存才能运行。

GPT-OSS:120b 专为生产、通用、高推理用例而设计。

注意:此型号至少需要 80GB 的统一内存或 GPU 内存才能运行。

bash 复制代码
ollama run gpt-oss:20b   

ollama run gpt-oss:120b  
相关推荐
码事漫谈4 小时前
当公司不久后变成冒险者公会,我担心什么
后端
Csvn5 小时前
Nginx 负载均衡进阶与健康检查:哈希、keepalive 池与 DNS 自愈
后端·nginx
皮皮林5516 小时前
京东又开源一款新框架,用起来真优雅!
后端
学长毕设6 小时前
基于SpringBoot智慧养老服务平台设计与实现-附源码
java·spring boot·后端
行百里er9 小时前
【Spring Insight 技术分享】跨服务调用链路是怎么串起来的?
后端·spring·开源
火山引擎和TA的超级拍档们9 小时前
产品情报局 11 | AI 数据湖 LAS:打造大模型时代多模态数据底座
前端·后端
源动力技术栈9 小时前
C# 集合类型全览:从 List<T> 到 FrozenDictionary,配一组实测数据
后端
aleimu10 小时前
Windows 11 右键打开 Cmder 2.0:从找不到菜单到默认使用 Cmder
前端·人工智能·后端
货拉拉技术10 小时前
AI Agent 如何进入实时交易系统:货拉拉的三个实践与一套工程方法论
后端·架构·agent
我是谁的程序员10 小时前
iOS 性能分析在 Windows 上怎么做,用 KXBuild 的 kxdevice 替代 Instruments
后端·ios