技术实战

薛定猫AI2 小时前
python·机器学习·ai·大模型·技术实战
【技术干货】基于本地优先架构的开源AI智能体Octopus系统设计与实战解析摘要:本文深度解析开源AI智能体Octopus的本地优先架构,探讨其单进程运行、SQLite持久化及多用户隔离机制,并结合云智AI平台给出Python实战。
红信鸽2 个月前
技术实战
LangChain集成关键配置片段最近接了一个金融客户的项目,他们公司刚拿到数据合规认证,内部系统绝对不能走云端API。需要帮他们在内网搭建一个能处理合同审查、财报分析的AI助手,数据量大概有20万条历史文档,响应时间要求控制在2秒以内。说实话,一开始我觉得这项目挺简单,不就是装个模型嘛?结果真动手之后才发现,细节多到让人怀疑人生。
红信鸽3 个月前
技术实战
接入6家大模型API后的适配器设计模式总结我总结的6家大模型API接入实战经验与踩坑实录前不久接了一个企业内部智能助手的项目,客户是一家拥有数千名员工的传统制造企业。他们希望把内部知识库和几个主流的大模型能力打通,做一个能问业务数据、也能写代码辅助的聊天机器人。说实话,一开始我觉得这很简单,不就是调个API吗?结果真正落地时发现,各家厂商的鉴权方式、参数结构、流式响应格式简直是一团乱麻。最后我们接入了6家大模型厂商,为了统一对外接口,我花了一周时间重构了适配层。这个过程坑不少,但也让我对设计模式在工程化中的应用有了全新的理解。
我是有底线的