【AI】大模型API调研及推荐

引入

最近写了脚本对接用阿里云的通义大模型API来完成一些社区的问题回答,以此获得一些每日的积分和流量。🤤

为什么选择阿里云的通义大模型呢?因为在此之前是免费的,然而,最近开始收费了。是的,价格还是蛮贵的,看了下我之前调用的模型是qwen-max,都收费到了0.12元/1000 tokens。这个收费是什么概念呢,我统计了下,我每天用这个API回答5个问题, 我最近20天回答了100个问题,就用了大概 1000 * 1000 tokens,还好在免费额度里,算了下账,都差点要120元了😭.

大家都知道程序员的💰是最难赚的,是的,所以我果断就选择了弃用阿里云的API,开始调研大模型最便宜的方案。

PS: 有小伙伴们会问,有一些模型才0.008元/1000 tokens呀。是的,但是调用大模型最好就调用最好的,这样可以省去很多时间。🐶

调研

于是楼主在相关论坛上发布了相关帖子进行调研。其中有两个方案呼声最高。分别如下:

国内的GPT4转发站请自寻寻找,由于这种转发站具有不稳定性(这里的不稳定是指我不知道会不会搭建房圈钱跑路亦或是提高价格杀熟🐶) 所以此处不贴链接,还请谅解。

Kimi

呼声最高的便是当今国内人工智能炸子鸡公司,月之暗面,这家公司融资了10亿美元,旗下的Kimi可以说是国内长文本最🐮的利器。价格在0.024元/1000 tokens,而且注册用户还送15元,爽歪歪。

这里分享两个常用链接:

  1. 直接可以对话使用的Kimi
  2. Kimi的研发文档

API对接

由于我这里使用的都是http请求对接,我这里就贴下http请求的js代码, 本人自用,欢迎自取。😃

js 复制代码
const callMoonShot = async (prompt) => {
  const url = "https://api.moonshot.cn/v1/chat/completions";
  const params = {
    model: "moonshot-v1-32k",
    messages: [
      {
        role: "user",
        content: prompt,
      },
    ],
  };
  const res = axios
    .post(url, params, {
      headers: {
        "Content-Type": "application/json",
        Authorization: `Bearer ${MOON_API_KEY}`,
      },
    })
    .then((response) => {
      const { data } = response;
      const content = data.choices[0].message.content;
      return content;
    })
    .catch((error) => {
      console.error("调用月之暗面报错:", error);
    });
  return res;
};

PS: 这边要吹一下Kiwi为开发者做的努力,如果你看其他方法的调用,例如Python等,会发现它引入了OpenAI的包,我认为这个包是为了在接口层面让用户跟调用GPT4一样调用Kiwi,方便开发者迁移。上面的代码是我在写完国内GPT4的转发的接口后,改了一行modelapi_key就通了😋

国内GPT4的转发

其次,与之类似的方案便是调用GPT4,是的,你没有看错,这个GPT4是实打实的GPT4,不过不是很稳定,因为这个GPT4是由国内的转发站进行转发的,经过楼主的计算,这个价格也是在0.024元/1000 tokens,采用的价格是0.8元人名币汇算成1美元

PS: 为什么会这么便宜,听说是先通过购买正版GPT4(20美元人名币),然后用国内的请求做成转发,转发到国外的GPT4接口,如果用户量大的话,那么搭建者应该能回本,大概率能小赚一笔,但是由于如果用户量过多,那么请求也会过多,会导致响应的不稳定。其二,由于是个人搭建,所以会不会跑路依靠于搭建者的个人道德水平。🐶

API对接

js 复制代码
const callGpt4 = async (prompt) => {
  const url = "https://国内转发站地址";
  const params = {
    model: "gpt-4",
    messages: [
      {
        role: "user",
        content: prompt,
      },
    ],
  };
  const res = axios
    .post(url, params, {
      headers: {
        "Content-Type": "application/json",
        Authorization: `Bearer ${GPT_KKSJ_API_KEY}`,
      },
    })
    .then((response) => {
      const { data } = response;
      const content = data.choices[0].message.content;
      return content;
    })
    .catch((error) => {
      console.error("调用GPT4报错:", error);
    });
  return res;
};

总结

目前楼主觉得性价比最高的模型就是如上两个,这两个有不同的使用场景

  1. 如果追求稳定回复,那么推荐Kiwi
  2. 如果追求最佳答案,那么推荐国内GPT4转发站

PS:如果大家有觉得更好更便宜的大模型,欢迎在评论区打出,楼主都会一一调研的。

相关推荐
真忒修斯之船14 分钟前
大模型分布式训练并行技术(三)流水线并行
面试·llm·aigc
GIS程序媛—椰子26 分钟前
【Vue 全家桶】7、Vue UI组件库(更新中)
前端·vue.js
DogEgg_00132 分钟前
前端八股文(一)HTML 持续更新中。。。
前端·html
ZL不懂前端35 分钟前
Content Security Policy (CSP)
前端·javascript·面试
乐闻x38 分钟前
ESLint 使用教程(一):从零配置 ESLint
javascript·eslint
木舟100939 分钟前
ffmpeg重复回听音频流,时长叠加问题
前端
王大锤43911 小时前
golang通用后台管理系统07(后台与若依前端对接)
开发语言·前端·golang
我血条子呢1 小时前
[Vue]防止路由重复跳转
前端·javascript·vue.js
黎金安1 小时前
前端第二次作业
前端·css·css3
啦啦右一1 小时前
前端 | MYTED单篇TED词汇学习功能优化
前端·学习