gpt oss 20b 本地运行

GPT-OSS:20b 专为低延迟、本地或专用用例而设计。

注意:此型号至少需要 16GB 的统一内存(MAC)或 GPU 内存才能运行。

GPT-OSS:120b 专为生产、通用、高推理用例而设计。

注意:此型号至少需要 80GB 的统一内存或 GPU 内存才能运行。

bash 复制代码
ollama run gpt-oss:20b   

ollama run gpt-oss:120b  
相关推荐
LEE7 分钟前
前端转型全栈 03:接口失败也返回 200,OpenAPI 契约与错误码怎么定
前端·后端·全栈
打工仔折腾 AI37 分钟前
用 Docker 部署 Excalidraw 手绘白板并配置固定公网访问的完整实践
人工智能·后端·python
山岚的运维笔记38 分钟前
mysql 专业笔记 -- 第 36 章:MySQL 管理
运维·数据库·笔记·后端·mysql·oracle·dba
掘金者阿豪41 分钟前
Oracle 迁移金仓,50 个存储过程到底要改多少?聊聊实际改造中的几个问题
后端
大白801 小时前
iOS 内存深度解析:ARC 到底是怎么管理对象生命周期的
后端
焦玉全1 小时前
Redis Lua 脚本实战:从入门到精通(Java 版)
后端
知识的搬运工旺仔1 小时前
唯一索引与 NULL 值:PostgreSQL 主键约束与 NULLS NOT DISTINCT
数据库·后端·sql·postgresql
大勇前进2 小时前
从 OC 到 Swift,老 iOS 开发者踩过的 10 个语法大坑
后端
我的xiaodoujiao2 小时前
Django 基础知识详细图文教程 9-Django 模板引擎 2
开发语言·数据库·后端·django
烈风逍遥2 小时前
第五篇:通用 LLM 流式对话:前后端联接的完整实现
前端·后端·架构