【AI】命令行调用大模型

引入

最近使用通义千问，发现我的网页一旦切换，它就不给我生成结果了，非常的鸡贼🐶。

亦或是打开其他的一些大模型网站，但是网页加载比较耗时，于是我开始思考🤔，有什么更快的方式去拿到大模型的结果呢。没错，使用接口直接调用🐶。通过设置全局命令，只需要在命令行中输入如下即可得到的结果。🤤

bash 复制代码

gpt4 你好
#大模型输出：你好，有什么可以帮助你的吗？

正文

🌟 大致思路：这里使用的是前端npm，通过npm link 自己本地的npm包，从而达到能够快速调用的目的。

初始化项目

首先，在电脑上创建一个新的文件夹作为你的npm包项目，比如moon-shot.

没错，我们这里使用的是月之暗面的kiwi模型😁

使用npm init命令来生成项目的配置文件。具体代码如下:

bash 复制代码

mkdir moon-shot && cd moon-shot
npm init -y

撰写脚本

这里采用的脚本是之前在该篇文章《【AI】大模型API调研及推荐》里发布的。

对了，友情提醒：楼主使用的是mac,如果您采用的是windows可能会有些不同。🐶

创建一个文件夹src，里面有3个文件，分别是constant.js,kiwi.js以及main.js。
- constant.js用作存一些变量，例如MOON_API_KEY
- kiwi.js文件用来写一些调用kiwi的接口。
- main.js文件主要用于导出可调用的文件。
我们去Kiwi的API管理平台去创建一下自己的API_KEY,然后将API_KEY导出在constant.js文件里

constant.js文件如下👇

js 复制代码

const MOON_API_KEY = "sk-your api-key";
exports.MOON_API_KEY = MOON_API_KEY;

然后在kiwi.js文件里撰写对应的接口

kiwi.js文件如下👇

js 复制代码

const { MOON_API_KEY } = require("./constant");
const axios = require("axios");

const callMoonShot = async (prompt) => {
  const url = "https://api.moonshot.cn/v1/chat/completions";
  const params = {
    model: "moonshot-v1-32k",
    messages: [
      {
        role: "user",
        content: prompt,
      },
    ],
  };
  const res = axios
    .post(url, params, {
      headers: {
        "Content-Type": "application/json",
        Authorization: `Bearer ${MOON_API_KEY}`,
      },
    })
    .then((response) => {
      const { data } = response;
      const content = data.choices[0].message.content;
      return content;
    })
    .catch((error) => {
      console.error("调用月之暗面报错:", error);
    });
  return res;
};

exports.callMoonShot = callMoonShot;

这里需要安装对应的依赖🐶,我使用的是pnpm，安装方式见下

css 复制代码

pnpm i axios

最后我们在main.js里写进导出文件

这里我们的输入是从命令行中获取，在命令行中输出.

main.js文件如下👇

js 复制代码

#!/usr/bin/env node
const { callMoonShot } = require("./kiwi");

const main = async () => {
  const args = process.argv.slice(2);
  const input = args.join(",");
  const res = await callMoonShot(input);
  console.log(res);
};

exports.main = main;

if (require.main === module) {
  main();
}

注意：这里要使用#!/usr/bin/env node，因为需要告诉操作系统指明特定的解释器去执行对应的Js代码, 大模型的解释如下🐶

全局安装

我们将package.json文件修改为如下：

这里主要是加入了bin的字段，指明入口文件。这样我们在调用执行文件时，可以不带路径，直接使用命令名来执行相对应的执行文件。😁

js 复制代码

{
  "name": "moon-shot",
  "version": "1.0.0",
  "description": "",
  "bin": {
    "moon": "./src/main.js"
  },
  "dependencies": {
    "axios": "^1.6.7"
  },
  "keywords": [],
  "author": "",
  "license": "ISC"
}