Solon AI
Solon AI ,是一套大语言模型的 Java 通用开发工具包(是 Solon 的二级项目)。特点:
- 一套接口支持不同提供者、不同大模型调用(通过方言适配)
- 支持 Function Call
- 支持 RAG
- 支持 MCP
- 支持 AI-Flow(与 Solon Flow 配合)
- 支持同步接口与流式接口
- 支持会话记忆
- 支持聊天生成模型(ChatModel) 、图片生成模型(ImageModel) 、多态模型等
- 支持嵌入模型(EmbeddingModel) 、排序模型(RankingModel)
- 支持 Java 8 到 Java 24
- 支持 Spring、jFinal、Vert.x 等 Solon 以外的框架
- 等......更多内容,参考官网介绍
通过 Hello world 了解下:
添加应用配置
yaml
solon.ai.chat:
demo:
apiUrl: "http://127.0.0.1:11434/api/chat" # 使用完整地址(而不是 api_base)
provider: "ollama" # 使用 ollama 服务时,需要配置 provider
model: "llama3.2" # 或 deepseek-r1:7b
效果测试
java
@Configuration
public class DemoConfig {
@Bean
public ChatModel build(@Inject("${solon.ai.chat.demo}") ChatConfig config) {
return ChatModel.of(config).build();
}
@Bean
public void test(ChatModel chatModel) throws IOException {
//一次性返回
ChatResponse resp = chatModel.prompt("hello").call();
//打印消息
System.out.println(resp.getMessage());
}
}
最近更新了什么?
- 新增 solon-ai-repo-chroma 插件
- 优化 solon-ai-repo-tcvectordb 插件相似度处理
- 优化 solon-ai-repo-elasticsearch 插件相似度处理
项目仓库地址?
- gitee:gitee.com/opensolon/s...
- gitcode: gitcode.com/opensolon/s...
- github:github.com/opensolon/s...