NewAPI使用

1. 概述

githubCalcium-Ion/new-api: AI模型接口管理与分发系统,支持将多种大模型转为OpenAI格式调用、支持Midjourney Proxy、Suno、Rerank,兼容易支付协议,可供个人或者企业内部管理与分发渠道使用,本项目基于One API二次开发。🍥 The next-generation LLM gateway and AI asset management system supports multiple languages.

基于OneAPI的二次开发,支持更多的模型协议。新一代大模型网关与AI资产管理系统。

主要特性:请参见github README文件。

模型支持(额外支持)

  • 第三方模型 gpt (gpt-4-gizmo-*)
  • Midjourney-Proxy(Plus)接口,对接文档
  • 自定义渠道,支持填入完整调用地址
  • Suno API 接口,对接文档
  • Rerank模型,目前支持Cohere和Jina,对接文档
  • Dify
  • Coze等

2. 部署实施

2.1 最新版本及要求

最新版Docker镜像:calciumion/new-api:latest

默认账号root 密码123456

数据库要求:

  • 本地数据库(默认):SQLite(Docker 部署默认使用 SQLite,必须挂载 /data 目录到宿主机)
  • 远程数据库:MySQL 版本 >= 5.7.8,PgSQL 版本 >= 9.6

2.2 使用Docker Compose部署

复制代码
# Clone the project
git clone https://github.com/QuantumNous/new-api.git
cd new-api

# Edit docker-compose.yml configuration
# nano docker-compose.yml
# vim docker-compose.yml
# 主要是在生产环境,主要更新如下:
1)服务端口 3000
2)调整postgresql数据库的默认密码:newapi.1q2
3)调整 container_name: new-api-redis,container_name: new-api-postgres

# 在服务器上建立目录 newapi
# 将编辑后的 docker-compose.yml 拷贝到服务器

# 执行
docker compose up -d

# 停止服务
docker compose down

3. 系统使用

3.1 初始化

1)端口配置

本地使用端口 3000(可以根据需要修改)。

2)管理员账号

首次打开,需要进行管理员账户的设置。

3)选择模式

企业内部或者个人,可以选择"自用模式"。这个配置可以在 系统设置--运营设置--通用设置 中修改。

4)配置登录注册

系统设置--系统设置 中 关闭新用户注册、密码注册。

3.2 渠道管理

1)添加渠道,其中渠道密钥,如果是OLLAMA本地部署,则可以随便输入即可。其他GLM,QWEN等,需要输入对应的密钥。

然后选择该渠道中的模型。点击"获取模型列表"自动加载可用模型,或手动 输入自定义模型名称(因为有些在OLLAMA的模型名称,可能是自行定义)。

2)针对阿里云百炼平台https://bailian.console.aliyun.com/),添加渠道时,因为NewAPI平台只有阿里通义千问,没有百炼,所以处理时类型选择 OpenAI,密钥填写在百炼的KEY,API地址输入百炼平台的API URL(https://dashscope.aliyuncs.com/compatible-mode),按提示不用添加 / 或者 /v1,然后获取模型列表。测试时注意设置 enable_thinking 为 false,否则报错。

相关推荐
SLD_Allen21 小时前
AI-Infra双轨战略:承托当下GPU算力,布局未来CPU替代
人工智能·gpu算力·ai-infra
wait21 小时前
Vibe Coding 开发技巧
前端·javascript·人工智能
bloxed21 小时前
【AI大模型--NumPy-06】随机数生成与蒙特卡洛模拟
人工智能·numpy
szxinmai主板定制专家21 小时前
基于ZYNQ MPSOC图像采集与压缩系统总体设计方案
linux·arm开发·人工智能·嵌入式硬件·fpga开发
GOTXX21 小时前
SenseNova U1 实战体验:API 调用 + OpenClaw 接入全流程
服务器·网络·人工智能·语言模型
生成论实验室21 小时前
用事件关系网络重新理解AI(三):激活函数、微调与元学习
人工智能·学习·算法·语言模型·可信计算技术
@蔓蔓喜欢你21 小时前
Jest 测试框架:构建可靠的测试体系
人工智能·ai
Narv工程师21 小时前
嵌入式机器人控制器算力评估:从DMIPS到WCET的完整指南
人工智能·算法·机器学习
searchforAI21 小时前
AI多模态技术:从语音识别到AI结构化笔记是怎么实现的
人工智能·经验分享·笔记·gpt·whisper·语音识别
LCG元21 小时前
RAG - 大模型检索增强生成深度解析:本地知识库 / 企业级落地优化配置
人工智能·算法