大家好,我是LV。
近期在疯狂研究开源的AI项目,收益匪浅,感谢开源社区。
于是选了其中几个开源项目,分享出来给大家。
如果说你深入学习了下面这4个开源项目,国内的AI开发岗位,随意。
本文强烈建议想入门或者深入AI领域的朋友们收藏,如果不错,顺便帮笔者点个赞,在看分享给周围需要的朋友。
一、OpenAI联合吴恩达老师的官方AI入门手册
从入门到入坑,从小白到专家。
项目地址: github.com/datawhalech...
项目简介: 本项目是一个面向开发者的 LLM 入门教程,基于吴恩达老师大模型系列课程内容,将原课程内容翻译为中文并复现其范例代码,实现中文 Prompt,指导国内开发者如何基于 LLM 快速、高效开发具备强大能力的应用程序。
功能简介:
- 面向开发者的 Prompt Engineering。介绍如何构造 Prompt 并基于 OpenAI 提供的 API 实现总结、推断、转换等多种功能。
- 搭建基于 ChatGPT 的问答系统。指导开发者基于 ChatGPT API 开发完整的智能问答系统。
- 使用 LangChain 开发应用程序。介绍如何使用 LangChain 架构开发具备强大能力的应用程序。
- 使用 LangChain 访问个人数据。介绍如何使用 LangChain 开发能够访问用户个人数据、提供个性化服务的大模型应用。
- 使用 Gradio 搭建生成式 AI 应用。指导开发者如何使用 Gradio 为生成式 AI 构建用户界面。
- 评估改进生成式 AI。提供一套系统化的方法和工具,帮助开发者跟踪和调试生成式 AI 模型。
- Prompt 高级技巧(尚未完成)。介绍包括思维链、模板、代理、自动 Prompt 工程等高级 Prompt 技巧。
使用方式: 详细的使用方式和教程内容可以在在线阅读地址查看,也可以在PDF下载地址下载PDF版本。
二、FastGPT:可视化自由编排工作流
这个项目对前端伙伴及其友好,技术栈是next一整套,包括了前后端数据库,全部用js搞定,毫不夸张的说,前端伙伴如果深入学习了这个项目,AI乃至前端领域的工作,随意找。
笔者基于这个项目,给公司打造了一套代码生成工作流,大幅提升工作效能。
项目地址: github.com/labring/Fas...
项目简介: FastGPT 是一个基于 LLM 大语言模型的知识库问答系统,提供开箱即用的数据处理、模型调用等能力。同时可以通过 Flow 可视化进行工作流编排,从而实现复杂的问答场景!
功能简介:
- 强大的可视化编排,轻松构建 AI 应用,包括用户对话前引导、全局字符串变量、知识库搜索、多 LLM 模型对话、文本内容提取成结构化数据、HTTP 扩展等功能。
- 丰富的知识库预处理,包括多库复用、chunk 记录修改和删除、支持手动输入、直接分段、QA 拆分导入、支持 URL 读取、CSV 批量导入、支持知识库单独设置向量模型、源文件存储等功能。
- 多种效果测试渠道,包括知识库单点搜索测试、对话时反馈引用并可修改与删除、完整上下文呈现等功能。
- OpenAPI,包括 completions 接口(对齐 GPT 接口)和知识库 CRUD 功能。
- 运营功能,包括免登录分享窗口、Iframe 一键嵌入、统一查阅对话记录,并对数据进行标注等功能。
三、One-API:整合各类大模型,提供统一管理平台
你是不是经常看到有人在卖key,很好奇他们哪里来的这么多key,搭建一个one-api,那你也可以做到,你也可以当中间渠道商。
项目地址: github.com/songquanpen...
项目简介: 该项目是一个开源的接口服务,通过标准的 OpenAI API 格式访问各种大模型。它支持多种大模型,包括 OpenAI ChatGPT 系列模型、Anthropic Claude 系列模型、Google PaLM2 系列模型等。同时还支持配置镜像和第三方代理服务,以及通过负载均衡的方式访问多个渠道。该项目还支持流模式、多机部署、令牌管理、兑换码管理等功能。
功能简介:
- 支持多种大模型,包括 OpenAI ChatGPT 系列模型、Anthropic Claude 系列模型、Google PaLM2 系列模型、百度文新一言、阿里通义千问、讯飞星火等。
- 支持负载均衡、流模式、多机部署、令牌管理、兑换码管理等功能。
使用方式:
- 部署该项目,可以使用 Docker 进行部署,也可以手动部署。
- 在渠道页面添加 API Key,并在令牌页面新增访问令牌。
四、部署、测试、监控你的Agent
你可以理解为,这是一个AI领域的API自动化部署&测试平台。
项目地址: agenta.ai/
项目简介: 快速迭代、调试和评估您的LLM应用程序。这是一个用于提示工程、评估和部署复杂LLM应用程序的开源LLMOps平台。
功能简介:
- Playground 🪄:只需几行代码,即可定义您想要进行调试的参数和提示词。
- 版本评估 📊:定义测试集,然后手动或以编程方式评估不同的agent。
- API部署 🚀:一键将您的LLM应用程序部署为API。
使用方式:
上面4个开源项目,包括了LLM开发入门 、LLM开发优秀项目、统一管理所有大模型的API、以及LLM应用的调试、测试和部署,如果你想从事AI应用层技术相关的一些工作,建议反复学习。
文末福利
- AI工作流流咨询
笔者目前在构建开发领域的自动化工作流,比如基于组件库文档训练组件库AI助手(再也不用开发人员去查文档,能够回答任何组件相关的问题,还能够直接生成对应的组件代码)。
比如搭建业务组件自动生成的工作流,通过自然语言描述,直接生成符合规范结构的业务组件。
目前已经在公司实际场景中进行了落地,能够大幅度提升日常的工作效能。
如果你也想将自己的日常工作融入到AI工作流中,成倍提升工作效能,欢迎跟我探讨。
最后,再送上一个AI的知识库,永久免费更新最新的AI咨询、实用教程、开源项目、赚钱思路等。