Solon AI 正试发布了(版号,随 Solon v3.3.1)。历时小半年。
1、简介
Solon AI 是一个 Java AI(智能体) 全场景应用开发框架,提供有丰富的接口能力。主要支持的的智能体开发场景有:Chat;RAG;MCP;AiFlow。
其中 ChatModel 是 Solon AI 的核心模型接口(其它暂略),通过方言的方式(ChatDialect)可适配各种环境(或平台)提供的大语言模型。
2、历时回顾
时间 | 回顾 | 备注 |
---|---|---|
2025-01 中 | Solon Flow 项目启动 | 将为 Solon AI 编排提供支持 |
2025-01 底 | Solon AI 项目启动 | |
2025-02 中 | 设计 Solon AI 开放接口,和适配机制 | |
2025-03 中 | Solon Expression 项目启动 | 为 Solon AI RAG 知识库,提供统一的过滤表达式支持 |
2025-04 初 | Solon AI MCP 项目启动 | |
2025-05 初 | Solon Flow Designer 项目启动 | (由 广东越洋科技有限公司 供献代码) |
2025-05 中 | Solon AI Flow 项目启动 | 使用 Solon Flow 编排 Solon AI 定制的任务组件 |
3、体验展示
- ChatModel
java
public void call(ChatModel chatModel) throws IOException {
chatModel.prompt("hello").call();
}
public void stream(ChatModel chatModel) throws IOException {
chatModel.prompt("hello").stream();
}
public void toolCall(ChatModel chatModel) throws IOException {
chatModel.prompt("今天杭州的天气情况?")
.options(o -> o.toolsAdd(new WeatherTools())
.call();
}
public void session(ChatModel chatModel) throws IOException {
ChatSession chatSession = new ChatSessionDefault("session-1");
chatSession.addMessage(ChatMessage.ofUser("今天杭州的天气情况?"));
chatModel.prompt(chatSession)
.options(o -> o.toolsAdd(new WeatherTools())
.stream();
}
- RAG
java
public void init(ChatModel chatModel, RepositoryStorable repository) throws IOException {
PdfLoader loader = new PdfLoader(new File("lzsite.pdf")).additionalMetadata("file", "lzsite.pdf");
List<Document> documents = new SplitterPipeline()
.next(new RegexTextSplitter("\n\n"))
.next(new TokenSizeTextSplitter(500))
.split(loader.load());
repository.insert(documents);
}
public void search(ChatModel chatModel, RepositoryStorable repository) throws IOException {
String query = "良渚遗址公司有哪些景点?"
//知识库检索
List<Document> context = repository.search(message);
//消息增强
ChatMessage message = ChatMessage.augment(query, context)
chatModel.prompt(message).call();
}
- MCP-server
java
@McpServerEndpoint(sseEndpoint = "/mcp/sse")
public class McpServerTool {
@ToolMapping(description = "查询天气预报")
public String getWeather(@Param(description = "城市位置") String location) {
return "晴,14度";
}
@ResourceMapping(uri = "config://app-version", description = "获取应用版本号", mimeType = "text/config")
public String getAppVersion() {
return "v3.2.0";
}
@ResourceMapping(uri = "db://users/{user_id}/email", description = "根据用户ID查询邮箱")
public String getEmail(@Param(description = "用户Id") String user_id) {
return user_id + "@example.com";
}
@PromptMapping(description = "生成关于某个主题的提问")
public Collection<ChatMessage> askQuestion(@Param(description = "主题") String topic) {
return Arrays.asList(ChatMessage.ofUser("请解释一下'" + topic + "'的概念?"));
}
}
- MCP-client
java
public void client(ChatModel chatModel){
McpClientProvider clientProvider = McpClientProvider.builder()
.apiUrl("http://localhost:8080/mcp/sse")
.build();
String rst = clientProvider.callToolAsText("getWeather", Map.of("location", "杭州"))
.getContent();
chatModel.prompt("杭州今天的天气怎么样?")
.options(options -> { options.toolsAdd(clientProvider))
.call();
}
- AiFlow
yaml
id: helloworld
layout:
- task: "@VarInput"
meta:
message: "你好"
- task: "@ChatModel"
meta:
chatConfig: # "@type": "org.noear.solon.ai.chat.ChatConfig"
provider: "ollama"
model: "qwen2.5:1.5b"
apiUrl: "http://127.0.0.1:11434/api/chat"
- task: "@ConsoleOutput"
# flowEngine.eval("helloworld");
4、最近更新日志
- 新增 solon-ai-flow 插件
- 新增 solon-ai-load-ddl 插件
- 添加 solon-ai-core ChatMessage:ofUser(media) 方法
- 添加 solon-ai-core ChatSession:addMessage(ChatPrompt) 方法
- 添加 solon-ai-core ChatSession:addMessage(Collection) 方法
- 添加 solon-ai-core RerankingConfig,RerankingModel toString 方法
- 添加 solon-ai-core 模型的网络代理支持(支持简单配置,和复杂构建)
- 添加 solon-ai-mcp 客户端的网络代理简单配置支持
- 添加 solon-ai-mcp messageEndpoint 端点配置支持(应对特殊需求,一般自动更好)
- 添加 solon-ai-mcp ToolMapping,ResourceMapping 注解方法对 Produces 注解的支持(用它可指定结果转换处理)
- 添加 solon-ai-mcp ToolCallResultConverter:matched 方法
- 添加 solon-ai-mcp 资源模板的响应适配
- 添加 solon-ai-mcp McpClientProvider:getResourceTemplates 方法
- 添加 solon-ai-mcp 检查原语是否存在的方法(hasTool, hasPrompt, hasResource)
- 添加 solon-ai-mcp 提示语支持 UserMessage 拆解成多条 mcp 内容(如果,同时有媒体和文本的话)
- 优化 solon-ai-core tool 空参数时的不同大模型兼容性
- 优化 solon-ai-core ChatSession 的作用,为限数提供支持
- 优化 solon-ai-core MethodFunctionTool 移除对 Mapping 注解的支持(语意更清楚,之前 MethodToolProvider 已经移除,这个落了)
- 优化 solon-ai-core EmbeddingRequest,ImageRequest,RerankingRequest 当 resp.getError() 非 null 时,直接出抛异常
- 优化 solon-ai-mcp 取消 MethodFunctionResource 对反回类型的限制(增加了 resultConverter 转换处理)
- 优化 solon-ai-mcp McpServerEndpointProvider 支持零添加原语,postStart 后,可添加原语
- 修复 solon-ai ChatRequestDefault:stream 请求 r1 时,可能会产生两次 tink 消息发射