一些大语言模型(LLM)相关的开源项目

一些大语言模型(LLM)相关的开源项目

更多文章访问: https://www.cyisme.top

因为站内限制问题,有些图片无法显示,导致阅读体验较差,可以访问原文:《一些大语言模型(LLM)相关的开源项目》

NextChat

一键免费部署私人 ChatGPT 网页应用,支持 GPT3, GPT4 & Gemini Pro 模型。

项目地址: https://github.com/ChatGPTNextWeb/ChatGPT-Next-Web/tree/main

one-api

支持多种大模型, 国内的阿里通义千问、百度文心一言等都可以接入。并且有独立的管理页面,支持令牌管理、兑换码管理、通道管理等。

很多其他的项目使用它来做多种模型的gateway,实现统一的api调用。
使用 One API 分发的 key 进行请求 中继请求 中继请求 中继请求 中继并修改请求体和返回体 用户 One API OpenAI Azure 其他 OpenAI API 格式下游渠道 非 OpenAI API 格式下游渠道

项目地址: https://github.com/songquanpeng/one-api

fastGPT

FastGPT 是一个基于 LLM 大语言模型的知识库问答系统。它的亮点在于可视化的工作流编排和知识库管理,从而实现复杂的问答场景。

项目地址: https://github.com/labring/FastGPT

在线演示: https://fastgpt.in/

dify

Dify 是一个 LLM 应用开发平台,开箱即用的 AI WebApp, 也可集成至你的应用的后端即服务。可以基于任何模型自部署类似 Assistants API 和 GPTs 的能力。

项目地址: https://github.com/langgenius/dify

fastChat

FastChat 是一个开放平台,用于训练、服务和评估基于大型语言模型的聊天机器人。 支持先进的模型(如vicuna)和评估(MT-Bench)。

具有 Web UI 以及和 OpenAI 兼容的 RESTful API。

项目地址: https://github.com/lm-sys/FastChat

autogen

AutoGen 是一个框架,支持使用多个代理来开发 LLM 应用程序,这些代理可以相互对话来解决任务。 AutoGen 代理是可定制的、可对话的,并且无缝地允许人类参与。

它简化了复杂的工作流程的编排, 支持复杂工作流程的多种对话模式。

借助可定制和可对话的代理,开发人员可以使用 AutoGen 构建各种涉及对话自主性、代理数量和代理对话拓扑的对话模式。

项目地址: https://github.com/microsoft/autogen

anything-llm

可以使用商业或开源的 LLM 和 vectorDB 来构建私有 ChatGPT。他可以将文档转换为对话中的上下文(PDF, TXT, DOCX, etc)。

项目地址: https://github.com/Mintplex-Labs/anything-llm

web-llm

WebLLM是一个模块化、可定制的javascript软件包,通过硬件加速将语言模型聊天直接带到Web浏览器上。一切都在浏览器内运行,使用WebGPU进行加速。

项目地址: https://github.com/mlc-ai/web-llm

LLMsPracticalGuide

一些与LLM相关的指南、论文等。

项目地址: https://github.com/Mooler0410/LLMsPracticalGuide

open-llms

一些开源且可商用的LLM模型列表

项目地址: https://github.com/eugeneyan/open-llms

Awesome-Chinese-LLM

整理了一些开源的中文大语言模型

项目地址: https://github.com/HqWu-HITCS/Awesome-Chinese-LLM

相关推荐
思通数科多模态大模型3 分钟前
重构城市应急指挥布控策略 ——无人机智能视频监控的破局之道
人工智能·深度学习·安全·重构·数据挖掘·音视频·无人机
QBoson1 小时前
量子计算+AI:特征选择与神经网络优化创新应用
人工智能·神经网络·量子计算·图像分类·特征选择·“五岳杯”量子计算挑战赛·相干光量子计算机
Juicedata2 小时前
JuiceFS v1.3-Beta2:集成 Apache Ranger,实现更精细化的权限控制
运维·人工智能·ai
Work(沉淀版)4 小时前
DAY 40
人工智能·深度学习·机器学习
蓦然回首却已人去楼空5 小时前
Build a Large Language Model (From Scratch) 序章
人工智能·语言模型·自然语言处理
CM莫问5 小时前
<论文>(微软)WINA:用于加速大语言模型推理的权重感知神经元激活
人工智能·算法·语言模型·自然语言处理·大模型·推理加速
拾忆-eleven5 小时前
NLP学习路线图(二十六):自注意力机制
人工智能·深度学习
FreeBuf_5 小时前
最新研究揭示云端大语言模型防护机制的成效与缺陷
网络·安全·语言模型
MYH5166 小时前
在NLP文本处理中,将字符映射到阿拉伯数字(构建词汇表vocab)的核心目的和意义
人工智能·深度学习·自然语言处理
要努力啊啊啊6 小时前
KV Cache:大语言模型推理加速的核心机制详解
人工智能·语言模型·自然语言处理