gpt oss 20b 本地运行

GPT-OSS:20b 专为低延迟、本地或专用用例而设计。

注意:此型号至少需要 16GB 的统一内存(MAC)或 GPU 内存才能运行。

GPT-OSS:120b 专为生产、通用、高推理用例而设计。

注意:此型号至少需要 80GB 的统一内存或 GPU 内存才能运行。

bash 复制代码
ollama run gpt-oss:20b   

ollama run gpt-oss:120b  
相关推荐
Victor3566 小时前
Redis(146)Redis的Cluster的高可用性如何?
后端
Victor3566 小时前
Redis(147)Redis的Cluster的容错性如何?
后端
爱吃烤鸡翅的酸菜鱼7 小时前
Spring Boot 实现 WebSocket 实时通信:从原理到生产级实战
java·开发语言·spring boot·后端·websocket·spring
uzong13 小时前
Mermaid: AI 时代画图的魔法工具
后端·架构
q***697714 小时前
Spring Boot与MyBatis
spring boot·后端·mybatis
IUGEI15 小时前
synchronized的工作机制是怎样的?深入解析synchronized底层原理
java·开发语言·后端·c#
间彧16 小时前
GraalVM Native Image:跨平台能力与编译模式深度解析
后端
间彧16 小时前
GraalVM Native Image 与传统 JVM 内存管理:云原生时代的技术选型指南
后端
r***123816 小时前
SpringBoot最佳实践之 - 使用AOP记录操作日志
java·spring boot·后端
b***748816 小时前
前端GraphQL案例
前端·后端·graphql