llmops

百度智能云技术站

百度智能云千帆 ModelBuilder 大模型服务及开发解读本文整理自百度云智峰会 2024 —— 大模型平台技术实践论坛的同名演讲。更多大会演讲内容，请访问：https://cloud.baidu.com/summit/AIcloudsummit_2024/index.html

运维 + AI，你得先搞懂这些很感谢夜莺提供如此优质的平台能和行业内顶尖技术大佬做面对面的交流，在这个会议中又学习到了很多有趣有深度的内容，给我在未来探索的道路上提供了一些新的指引方向。同时感谢夜莺社区的邀请，在此再做一次关于AI方面的交流文章，由于目前我也是在AI这条赛道上的探索者，如果有不专业的地方还希望各位手下留情，同时希望能结识更多的同行，一起在AI这条赛道上做一些更高级更有趣的事情。

百度智能云技术站

百度智能云千帆 ModelBuilder 技术实践系列：通过 SDK 快速构建并发布垂域模型百度智能云千帆大模型平台（百度智能云千帆大模型平台 ModelBuilder）作为面向企业开发者的一站式大模型开发平台，自上线以来受到了广大开发者、企业的关注。至今已经上线收纳了超过 70 种预置模型服务，用户可以快速的调用，并部署不同的模型以寻求最适合自身业务的方案。平台提供了全流程大模型开发工具链，为成千上万的应用提供了稳定的大模型平台服务。

Dify安装使用说明dify可以说是一个功能不错的LLMOps，可以通过dify集中管理模型，可以通过界面创建AI应用，可以上传文档形成知识库，可以创建自定义工具（API），并可以对外提供API。

小明java问道之路

百度智能云千帆大模型平台再升级，SDK版本开源发布！📫作者简介：小明java问道之路，2022年度博客之星全国TOP3，专注于后端、中间件、计算机底层、架构设计演进与稳定性建设优化，文章内容兼具广度、深度、大厂技术方案，对待技术喜欢推理加验证，就职于知名金融公司后端高级工程师。

FastAPI 构建 API 高性能的 web 框架（一）如果要部署一些大模型一般langchain+fastapi，或者fastchat，先大概了解一下fastapi,本篇主要就是贴几个实际例子。