LLM模型-讯飞星火与百度文心api调用

Elvis_hui2023-11-19 13:30

spark-wenxin

1-讯飞星火

进入讯飞官网进行创建应用，获取相关密钥APPID，APISecret，APIKey，选择最新版本

首次调用讯飞官方api可能有两问题：

python 复制代码 
1-No module named 'websocket'#安装 pip install websocket_client==1.4.2
2-spark_url="ws(s)://spark-api.xf-yun.com/v3.1/chat" #改为"ws://spark-api.xf-yun.com/v3.1/chat"

现搞了个完整的代码如下：

第一个相关请求的代码：SparkApi.py 相关参数可自行修改

1_1-SparkApi.py
python 复制代码 
import _thread as thread
import base64
import datetime
import hashlib
import hmac
import json
from urllib.parse import urlparse
import ssl
from datetime import datetime
from time import mktime
from urllib.parse import urlencode
from wsgiref.handlers import format_date_time

import websocket  # 
answer = ""

class Ws_Param(object):
    # 初始化
    def __init__(self, APPID, APIKey, APISecret, Spark_url):
        self.APPID = APPID
        self.APIKey = APIKey
        self.APISecret = APISecret
        self.host = urlparse(Spark_url).netloc
        self.path = urlparse(Spark_url).path
        self.Spark_url = Spark_url

    # 生成url
    def create_url(self):
        # 生成RFC1123格式的时间戳
        now = datetime.now()
        date = format_date_time(mktime(now.timetuple()))

        # 拼接字符串
        signature_origin = "host: " + self.host + "\n"
        signature_origin += "date: " + date + "\n"
        signature_origin += "GET " + self.path + " HTTP/1.1"

        # 进行hmac-sha256进行加密
        signature_sha = hmac.new(self.APISecret.encode('utf-8'), signature_origin.encode('utf-8'),
                                 digestmod=hashlib.sha256).digest()

        signature_sha_base64 = base64.b64encode(signature_sha).decode(encoding='utf-8')

        authorization_origin = f'api_key="{self.APIKey}", algorithm="hmac-sha256", headers="host date request-line", signature="{signature_sha_base64}"'

        authorization = base64.b64encode(authorization_origin.encode('utf-8')).decode(encoding='utf-8')

        # 将请求的鉴权参数组合为字典
        v = {
            "authorization": authorization,
            "date": date,
            "host": self.host
        }
        # 拼接鉴权参数，生成url
        url = self.Spark_url + '?' + urlencode(v)
        # 此处打印出建立连接时候的url,参考本demo的时候可取消上方打印的注释，比对相同参数时生成的url与自己代码生成的url是否一致
        return url

# 收到websocket错误的处理
def on_error(ws, error):
    print("### error:", error)

# 收到websocket关闭的处理
def on_close(ws,one,two):
    print(" ")

# 收到websocket连接建立的处理
def on_open(ws):
    thread.start_new_thread(run, (ws,))

def run(ws, *args):
    data = json.dumps(gen_params(appid=ws.appid, domain= ws.domain,question=ws.question))
    ws.send(data)

# 收到websocket消息的处理
def on_message(ws, message):
    # print(message)
    data = json.loads(message)
    code = data['header']['code']
    if code != 0:
        print(f'请求错误: {code}, {data}')
        ws.close()
    else:
        choices = data["payload"]["choices"]
        status = choices["status"]
        content = choices["text"][0]["content"]
        print(content,end ="")
        global answer
        answer += content
        # print(1)
        if status == 2:
            ws.close()
            
def gen_params(appid, domain,question):
    """
    通过appid和用户的提问来生成请参数
    """
    data = {
        "header": {
            "app_id": appid,
            "uid": "1234"
        },
        "parameter": {
            "chat": {
                "domain": domain,
                "random_threshold": 0.5,
                "max_tokens": 2048,#
                "auditing": "default"
            }
        },
        "payload": {
            "message": {
                "text": question
            }
        }
    }
    return data

def main(appid, api_key, api_secret, Spark_url,domain, question):
    # print("星火:")
    wsParam = Ws_Param(appid, api_key, api_secret, Spark_url)
    websocket.enableTrace(False)
    wsUrl = wsParam.create_url()
    ws = websocket.WebSocketApp(wsUrl, on_message=on_message, on_error=on_error, on_close=on_close, on_open=on_open)
    ws.appid = appid
    ws.question = question
    ws.domain = domain
    ws.run_forever(sslopt={"cert_reqs": ssl.CERT_NONE})
1_2- Chat_spark.py

通过创建应用获取密钥，选择版本创建，这里用的是3.0版本

python 复制代码 
import SparkApi

class SparkProcessor:
    #以下密钥信息从控制台获取3.0
    appid = "xxx"     #填写控制台中获取的 APPID 信息
    api_secret = "xxxx"   #填写控制台中获取的 APISecret 信息
    api_key ="xxx"    #填写控制台中获取的 APIKey 信息

    # # #2.0
    # appid = "xxx"     #填写控制台中获取的 APPID 信息
    # api_secret = "xxx"   #填写控制台中获取的 APISecret 信息
    # api_key ="xxx"    #填写控制台中获取的 APIKey 信息


    #用于配置大模型版本，默认"general/generalv2"
    #domain = "general"   # v1.5版本
    # domain = "generalv2"    # v2.0版本
    domain = "generalv3"    # v3.0版本
    #云端环境的服务地址
    #Spark_url = "ws://spark-api.xf-yun.com/v1.1/chat"  # v1.5环境的地址
    # Spark_url = "ws://spark-api.xf-yun.com/v2.1/chat"  # v2.0环境的地址
    Spark_url = "ws://spark-api.xf-yun.com/v3.1/chat"

    @staticmethod
    def get_text(role, content):
        jsoncon = {}
        jsoncon["role"] = role
        jsoncon["content"] = content
        return jsoncon

    @staticmethod
    def get_length(text):
        length = 0
        for content in text:
            temp = content["content"]
            leng = len(temp)
            length += leng
        return length

    @staticmethod
    def check_len(text):
        while SparkProcessor.get_length(text) > 8000:
            del text[0]
        return text

    @staticmethod
    def spark_api(question):
        question = SparkProcessor.check_len([SparkProcessor.get_text("user", question)])
        SparkApi.answer = ""
        SparkApi.main(
            SparkProcessor.appid,
            SparkProcessor.api_key,
            SparkProcessor.api_secret,
            SparkProcessor.Spark_url,
            SparkProcessor.domain,
            question,
        )
        return SparkApi.answer
1_3-调用api

prompt的基本写法规则：

任务：明确而简洁地陈述Prompt 要求模型生成的内容

指令：模型在生成文本时应遵循的指令。

角色：模型在生成文本时应扮演的角色。

python 复制代码 
prompt1="""将文本分类为中性、负面或正面。
        文本：我认为这次假期还可以。
        情感："""
from Chat_spark import SparkProcessor
result = SparkProcessor.spark_api(prompt1)
print(result)#中性
2-百度文心

人设+任务目标及解决方式+附加条件完整陈述

2_1.code

创建应用获取相关密钥

python 复制代码 
# -*- coding: utf-8 -*-
# @Author  : Elvis
# @Time    : 2023/11/13 10:56
# @File    : get_chat.py
# @describe: ""
api_key = 'xxx'
api_id = 'xxx'
secret_key = 'xxx'
name = 'CHAT'

import requests
import json

def get_access_token(api_k, secret_k):
    """
    使用 API Key，Secret Key 获取access_token，替换下列示例中的应用API Key、应用Secret Key
    """

    url = "https://aip.baidubce.com/oauth/2.0/token?grant_type=client_credentials&client_id=%s&client_secret=%s" % (
    api_k, secret_k)
#     print('url: ', url)
    payload = json.dumps("")
    headers = {
        'Content-Type': 'application/json',
        'Accept': 'application/json'
    }

    response = requests.request("POST", url, headers=headers, data=payload)
    return response.json().get("access_token")


def get_main(prompt,sys=None):
    res = get_access_token(api_key, secret_key)
#     print('res: ', res)
    #     url = "https://aip.baidubce.com/rpc/2.0/ai_custom/v1/wenxinworkshop/chat/completions?access_token=" + get_access_token()
    url = "https://aip.baidubce.com/rpc/2.0/ai_custom/v1/wenxinworkshop/chat/completions_pro?access_token=" + res

    payload = json.dumps({
        "messages": [
            {
                "role": "user",
                "content": prompt
            }
        ],
#          "stream": True,
        "temperature":0.1,#(0, 1.0]
        "system":sys
    })
    headers = {
        'Content-Type': 'application/json'
    }

    response = requests.request("POST", url, headers=headers, data=payload)

    res = response.text
    print(res)
    res1 = json.loads(res)
#     print(res1)
    return res1['result']
3-两者之间比较与openai

目前国内的效果在某些方面还是差点意思，没有公开过prompt实例，文心对格式控制很难把控，很难去掉提示语，星火给出的结果有时候偏差很大，估计还得明年中旬，训练慢慢好起来。

相关promot guide

想写好prompt，可以先上B站看一下关于吴恩达对openai 的prompt 视频。

相关推荐
紫小米1 小时前
后端日志管理
python·fastapi
你不是我我1 小时前
【Java 开发日记】HTTP3 性能更好，为什么内网微服务依然多用 HTTP2？HTTP2 内网优势是什么？
java·开发语言·微服务
tjl521314_212 小时前
04C++ 名称空间（Namespace）
开发语言·c++
赏金术士2 小时前
Kotlin 数据流与单双向绑定
android·开发语言·kotlin
白雪茫茫3 小时前
监督学习、半监督学习、无监督学习算法详解
python·学习·算法·ai
つ安静与叛逆的小籹人3 小时前
小红书API：通过笔记ID获取笔记详情数据教程
笔记·python
05候补工程师3 小时前
[实战复盘] 拒绝 AI 屎山！我从设计模式中学到的“调教”AI 新范式
人工智能·python·设计模式·ai·ai编程
逻辑驱动的ken3 小时前
Java高频面试场景题25
java·开发语言·深度学习·面试·职场和发展
AI人工智能+电脑小能手4 小时前
【大白话说Java面试题】【Java基础篇】第32题：Java的异常处理机制是什么
java·开发语言·后端·面试
阿豪只会阿巴5 小时前
【没事学点啥】TurboBlog轻量级个人博客项目——项目介绍
javascript·python·django·html
热门推荐
01GitHub 镜像站点02Codex 接入 DeepSeek API 完整配置文档03要裂开了！ChatGPT要手机号验证了？注册Codex要求验证电话号码怎么办？2026年登陆Codex要手机号验证的解决办法04零基础教你claude code 接入 deepseek V405CC-Switch & Claude 基于 Linux 服务器安装使用指南06Dirtyfrag漏洞：我花了一下午搞清楚这个Linux内核提权漏洞到底在搞什么07Linux 核弹级高危漏洞 CVE-2026-31431 完整修复指南08裂开！ChatGPT 居然开始要手机号验证，附详细解决方法09CVE-2026-31431 (Copy Fail) 漏洞复现与验证记录102026 年 AI 辅助编程工具全景对比：Copilot、Cursor、Claude Code 与 Codex 深度解析