技术栈
ollama部署
Nicolas893
8 天前
gpt
·
ollama部署
·
flashattention
·
部署问题
·
vllm部署
·
gpt-oss
·
gpt-oss-120b
【大模型实战篇】部署GPT-OSS-120B踩得坑（vllm / ollama等推理框架）
之前在《gpt-oss系列模型初探》介绍了GPT-OSS的相关内容，接下来个人尝试做了部署和测试，也遇到一些坑。
逆风飞翔的小叔
1 年前
ollama搭建
·
ollama部署
·
ollama部署大模型
·
java整合ollama
·
java对接ollama
大模型管理工具Ollama搭建及整合springboot
目录一、Ollama介绍1.1 什么是Ollama1.2 Ollama特点与优势二、Ollama本地部署