gpt oss 20b 本地运行

GPT-OSS:20b 专为低延迟、本地或专用用例而设计。

注意:此型号至少需要 16GB 的统一内存(MAC)或 GPU 内存才能运行。

GPT-OSS:120b 专为生产、通用、高推理用例而设计。

注意:此型号至少需要 80GB 的统一内存或 GPU 内存才能运行。

bash 复制代码
ollama run gpt-oss:20b   

ollama run gpt-oss:120b  
相关推荐
老华带你飞14 分钟前
建筑材料管理|基于springboot 建筑材料管理系统(源码+数据库+文档)
java·数据库·vue.js·spring boot·后端·学习·spring
Linux编程用C23 分钟前
Docker+Vscode搭建(本地/远程)开发环境
vscode·后端·docker
用户21991679703911 小时前
.Net通过EFCore和仓储模式实现统一数据权限管控并且相关权限配置动态生成
后端·github
用户47949283569151 小时前
node_modules 太胖?用 Node.js 原生功能给依赖做一次大扫除
前端·后端·node.js
开心就好20251 小时前
苹果iOS设备免越狱群控系统完整使用指南与应用场景解析
后端
ss2731 小时前
SpringBoot+vue养老院运营管理系统
vue.js·spring boot·后端
用户8356290780511 小时前
使用 C# 高效解析 PDF 文档:文本与表格提取实战指南
后端·c#
zhangyifang_0091 小时前
Spring中的BeanFactory类
java·后端·spring
掘金一周2 小时前
【用户行为监控】别只做工具人了!手把手带你写一个前端埋点统计 SDK | 掘金一周 12.18
前端·人工智能·后端
开心就好20252 小时前
iOS App 加固方法的实际应用,安全不再只是源码问题
后端