技术栈

运行时选项

腾飞开源
17 天前
人工智能·自动配置·依赖管理·springai·聊天模型·运行时选项·oci cohere
26_Spring AI 干货笔记之 OCI GenAI Cohere 聊天OCI GenAI 服务 提供生成式 AI 聊天功能,支持按需模型或专用 AI 集群。OCI 聊天模型页面 和 OCI 生成式 AI 演练场 提供了在 OCI 上使用和托管聊天模型的详细信息。
腾飞开源
21 天前
人工智能·自动配置·函数调用·springai·docker 模型运行器·运行时选项·容器化ai
16_Spring AI 干货笔记之 Docker 模型运行器聊天Docker 模型运行器 是一个 AI 推理引擎,提供来自 各种供应商的广泛模型。Spring AI 通过复用现有的基于 OpenAI 的 ChatClient 与 Docker 模型运行器集成。为此,需要将基础 URL 设置为 localhost:12434/engines 并选择其中一个提供的 LLM 模型。
我是有底线的