技术栈

技术实战

红信鸽
13 天前
技术实战
LangChain集成关键配置片段最近接了一个金融客户的项目,他们公司刚拿到数据合规认证,内部系统绝对不能走云端API。需要帮他们在内网搭建一个能处理合同审查、财报分析的AI助手,数据量大概有20万条历史文档,响应时间要求控制在2秒以内。说实话,一开始我觉得这项目挺简单,不就是装个模型嘛?结果真动手之后才发现,细节多到让人怀疑人生。
红信鸽
21 天前
技术实战
接入6家大模型API后的适配器设计模式总结我总结的6家大模型API接入实战经验与踩坑实录前不久接了一个企业内部智能助手的项目,客户是一家拥有数千名员工的传统制造企业。他们希望把内部知识库和几个主流的大模型能力打通,做一个能问业务数据、也能写代码辅助的聊天机器人。说实话,一开始我觉得这很简单,不就是调个API吗?结果真正落地时发现,各家厂商的鉴权方式、参数结构、流式响应格式简直是一团乱麻。最后我们接入了6家大模型厂商,为了统一对外接口,我花了一周时间重构了适配层。这个过程坑不少,但也让我对设计模式在工程化中的应用有了全新的理解。
我是有底线的