SpringAi适配DeepSeekV4

文章目录


前言

DeepSeekV4更新后调用方式出现了新的参数:

现有的以来无法支持:

xml 复制代码
<dependency>
    <groupId>org.springframework.ai</groupId>
    <artifactId>spring-ai-starter-model-deepseek</artifactId>
</dependency>

解决措施

在序列化的时候把这个参数加进去:

java 复制代码
@Configuration
public class DeepSeekV4CompatConfig {

    @Bean
    public Jackson2ObjectMapperBuilderCustomizer thinkingDisabledCustomizer() {
        return builder -> {
            SimpleModule module = new SimpleModule();
            module.setSerializerModifier(new ThinkingDisabledBeanSerializerModifier());
            builder.modules(module);
        };
    }
}
java 复制代码
public class ThinkingDisabledBeanSerializerModifier extends BeanSerializerModifier {

    private static final String TARGET_CLASS = "org.springframework.ai.deepseek.api.DeepSeekApi$ChatCompletionRequest";

    @Override
    @SuppressWarnings("unchecked")
    public JsonSerializer<?> modifySerializer(SerializationConfig config,
                                               BeanDescription beanDesc,
                                               JsonSerializer<?> serializer) {
        if (TARGET_CLASS.equals(beanDesc.getBeanClass().getName())) {
            return new ThinkingDisabledSerializer((JsonSerializer<Object>) serializer);
        }
        return serializer;
    }

    static class ThinkingDisabledSerializer extends StdSerializer<Object> {

        private final JsonSerializer<Object> delegate;

        ThinkingDisabledSerializer(JsonSerializer<Object> delegate) {
            super(Object.class);
            this.delegate = delegate;
        }

        @Override
        public void serialize(Object value, JsonGenerator gen, SerializerProvider provider) throws IOException {
            TokenBuffer tb = new TokenBuffer(gen.getCodec(), false);
            delegate.serialize(value, tb, provider);

            gen.writeStartObject();

            JsonParser parser = tb.asParser();
            parser.nextToken();

            while (parser.nextToken() != JsonToken.END_OBJECT) {
                gen.copyCurrentEvent(parser);
                parser.nextToken();
                gen.copyCurrentStructure(parser);
            }

            gen.writeFieldName("thinking");
            gen.writeStartObject();
            gen.writeStringField("type", "disabled");
            gen.writeEndObject();

            gen.writeEndObject();
            parser.close();
        }
    }
}
相关推荐
奋斗的老史4 天前
Spring AI + Docling 企业级文档解析完全指南
springai·langchain4j·ai应用开发
Maiko Star5 天前
* SpringAI多模型共存指南(如何配置多模型)
人工智能·springai
架构源启5 天前
Spring AI 进阶系列- Agent 智能体开发:ReAct模式、多步推理与自主Agent实战
人工智能·spring·react·ai agent·智能体·springai
奋斗的老史7 天前
基于SpringAI开发的通用RAG脚手框架,适配各种场景
springai·ai应用开发
隔窗听雨眠9 天前
SpringAI全流程实战手册
springai
TGITCIC12 天前
Redis之父为DeepSeek V4 Flash打造的Mac本地推理工具ds4.c是个什么东东
llm·deepseek·deepseekv4·大模型mac·mac上跑大模型
流放深圳13 天前
抓住 AI 人工智能的风口之第 1 章 —— 8万字熟练掌握 SpringAI 编程核心概念
人工智能·大模型·ollama·springai
Maiko Star16 天前
让 AI 开口说话:Spring AI Alibaba 语音合成(TTS)实战
java·人工智能·spring·springai
hrhcode17 天前
DeepSeek-V4 全面解析:百万上下文时代的架构革命
人工智能·云计算·deepseekv4
guslegend20 天前
第3章:快速入门SpringAI Alibaba
人工智能·springai