LLM模型-讯飞星火与百度文心api调用

Elvis_hui2023-11-19 13:30

spark-wenxin

1-讯飞星火

进入讯飞官网进行创建应用，获取相关密钥APPID，APISecret，APIKey，选择最新版本

首次调用讯飞官方api可能有两问题：

python 复制代码 
1-No module named 'websocket'#安装 pip install websocket_client==1.4.2
2-spark_url="ws(s)://spark-api.xf-yun.com/v3.1/chat" #改为"ws://spark-api.xf-yun.com/v3.1/chat"

现搞了个完整的代码如下：

第一个相关请求的代码：SparkApi.py 相关参数可自行修改

1_1-SparkApi.py
python 复制代码 
import _thread as thread
import base64
import datetime
import hashlib
import hmac
import json
from urllib.parse import urlparse
import ssl
from datetime import datetime
from time import mktime
from urllib.parse import urlencode
from wsgiref.handlers import format_date_time

import websocket  # 
answer = ""

class Ws_Param(object):
    # 初始化
    def __init__(self, APPID, APIKey, APISecret, Spark_url):
        self.APPID = APPID
        self.APIKey = APIKey
        self.APISecret = APISecret
        self.host = urlparse(Spark_url).netloc
        self.path = urlparse(Spark_url).path
        self.Spark_url = Spark_url

    # 生成url
    def create_url(self):
        # 生成RFC1123格式的时间戳
        now = datetime.now()
        date = format_date_time(mktime(now.timetuple()))

        # 拼接字符串
        signature_origin = "host: " + self.host + "\n"
        signature_origin += "date: " + date + "\n"
        signature_origin += "GET " + self.path + " HTTP/1.1"

        # 进行hmac-sha256进行加密
        signature_sha = hmac.new(self.APISecret.encode('utf-8'), signature_origin.encode('utf-8'),
                                 digestmod=hashlib.sha256).digest()

        signature_sha_base64 = base64.b64encode(signature_sha).decode(encoding='utf-8')

        authorization_origin = f'api_key="{self.APIKey}", algorithm="hmac-sha256", headers="host date request-line", signature="{signature_sha_base64}"'

        authorization = base64.b64encode(authorization_origin.encode('utf-8')).decode(encoding='utf-8')

        # 将请求的鉴权参数组合为字典
        v = {
            "authorization": authorization,
            "date": date,
            "host": self.host
        }
        # 拼接鉴权参数，生成url
        url = self.Spark_url + '?' + urlencode(v)
        # 此处打印出建立连接时候的url,参考本demo的时候可取消上方打印的注释，比对相同参数时生成的url与自己代码生成的url是否一致
        return url

# 收到websocket错误的处理
def on_error(ws, error):
    print("### error:", error)

# 收到websocket关闭的处理
def on_close(ws,one,two):
    print(" ")

# 收到websocket连接建立的处理
def on_open(ws):
    thread.start_new_thread(run, (ws,))

def run(ws, *args):
    data = json.dumps(gen_params(appid=ws.appid, domain= ws.domain,question=ws.question))
    ws.send(data)

# 收到websocket消息的处理
def on_message(ws, message):
    # print(message)
    data = json.loads(message)
    code = data['header']['code']
    if code != 0:
        print(f'请求错误: {code}, {data}')
        ws.close()
    else:
        choices = data["payload"]["choices"]
        status = choices["status"]
        content = choices["text"][0]["content"]
        print(content,end ="")
        global answer
        answer += content
        # print(1)
        if status == 2:
            ws.close()
            
def gen_params(appid, domain,question):
    """
    通过appid和用户的提问来生成请参数
    """
    data = {
        "header": {
            "app_id": appid,
            "uid": "1234"
        },
        "parameter": {
            "chat": {
                "domain": domain,
                "random_threshold": 0.5,
                "max_tokens": 2048,#
                "auditing": "default"
            }
        },
        "payload": {
            "message": {
                "text": question
            }
        }
    }
    return data

def main(appid, api_key, api_secret, Spark_url,domain, question):
    # print("星火:")
    wsParam = Ws_Param(appid, api_key, api_secret, Spark_url)
    websocket.enableTrace(False)
    wsUrl = wsParam.create_url()
    ws = websocket.WebSocketApp(wsUrl, on_message=on_message, on_error=on_error, on_close=on_close, on_open=on_open)
    ws.appid = appid
    ws.question = question
    ws.domain = domain
    ws.run_forever(sslopt={"cert_reqs": ssl.CERT_NONE})
1_2- Chat_spark.py

通过创建应用获取密钥，选择版本创建，这里用的是3.0版本

python 复制代码 
import SparkApi

class SparkProcessor:
    #以下密钥信息从控制台获取3.0
    appid = "xxx"     #填写控制台中获取的 APPID 信息
    api_secret = "xxxx"   #填写控制台中获取的 APISecret 信息
    api_key ="xxx"    #填写控制台中获取的 APIKey 信息

    # # #2.0
    # appid = "xxx"     #填写控制台中获取的 APPID 信息
    # api_secret = "xxx"   #填写控制台中获取的 APISecret 信息
    # api_key ="xxx"    #填写控制台中获取的 APIKey 信息


    #用于配置大模型版本，默认"general/generalv2"
    #domain = "general"   # v1.5版本
    # domain = "generalv2"    # v2.0版本
    domain = "generalv3"    # v3.0版本
    #云端环境的服务地址
    #Spark_url = "ws://spark-api.xf-yun.com/v1.1/chat"  # v1.5环境的地址
    # Spark_url = "ws://spark-api.xf-yun.com/v2.1/chat"  # v2.0环境的地址
    Spark_url = "ws://spark-api.xf-yun.com/v3.1/chat"

    @staticmethod
    def get_text(role, content):
        jsoncon = {}
        jsoncon["role"] = role
        jsoncon["content"] = content
        return jsoncon

    @staticmethod
    def get_length(text):
        length = 0
        for content in text:
            temp = content["content"]
            leng = len(temp)
            length += leng
        return length

    @staticmethod
    def check_len(text):
        while SparkProcessor.get_length(text) > 8000:
            del text[0]
        return text

    @staticmethod
    def spark_api(question):
        question = SparkProcessor.check_len([SparkProcessor.get_text("user", question)])
        SparkApi.answer = ""
        SparkApi.main(
            SparkProcessor.appid,
            SparkProcessor.api_key,
            SparkProcessor.api_secret,
            SparkProcessor.Spark_url,
            SparkProcessor.domain,
            question,
        )
        return SparkApi.answer
1_3-调用api

prompt的基本写法规则：

任务：明确而简洁地陈述Prompt 要求模型生成的内容

指令：模型在生成文本时应遵循的指令。

角色：模型在生成文本时应扮演的角色。

python 复制代码 
prompt1="""将文本分类为中性、负面或正面。
        文本：我认为这次假期还可以。
        情感："""
from Chat_spark import SparkProcessor
result = SparkProcessor.spark_api(prompt1)
print(result)#中性
2-百度文心

人设+任务目标及解决方式+附加条件完整陈述

2_1.code

创建应用获取相关密钥

python 复制代码 
# -*- coding: utf-8 -*-
# @Author  : Elvis
# @Time    : 2023/11/13 10:56
# @File    : get_chat.py
# @describe: ""
api_key = 'xxx'
api_id = 'xxx'
secret_key = 'xxx'
name = 'CHAT'

import requests
import json

def get_access_token(api_k, secret_k):
    """
    使用 API Key，Secret Key 获取access_token，替换下列示例中的应用API Key、应用Secret Key
    """

    url = "https://aip.baidubce.com/oauth/2.0/token?grant_type=client_credentials&client_id=%s&client_secret=%s" % (
    api_k, secret_k)
#     print('url: ', url)
    payload = json.dumps("")
    headers = {
        'Content-Type': 'application/json',
        'Accept': 'application/json'
    }

    response = requests.request("POST", url, headers=headers, data=payload)
    return response.json().get("access_token")


def get_main(prompt,sys=None):
    res = get_access_token(api_key, secret_key)
#     print('res: ', res)
    #     url = "https://aip.baidubce.com/rpc/2.0/ai_custom/v1/wenxinworkshop/chat/completions?access_token=" + get_access_token()
    url = "https://aip.baidubce.com/rpc/2.0/ai_custom/v1/wenxinworkshop/chat/completions_pro?access_token=" + res

    payload = json.dumps({
        "messages": [
            {
                "role": "user",
                "content": prompt
            }
        ],
#          "stream": True,
        "temperature":0.1,#(0, 1.0]
        "system":sys
    })
    headers = {
        'Content-Type': 'application/json'
    }

    response = requests.request("POST", url, headers=headers, data=payload)

    res = response.text
    print(res)
    res1 = json.loads(res)
#     print(res1)
    return res1['result']
3-两者之间比较与openai

目前国内的效果在某些方面还是差点意思，没有公开过prompt实例，文心对格式控制很难把控，很难去掉提示语，星火给出的结果有时候偏差很大，估计还得明年中旬，训练慢慢好起来。

相关promot guide

想写好prompt，可以先上B站看一下关于吴恩达对openai 的prompt 视频。

相关推荐
破无差9 分钟前
python实现简单的地图绘制与标记20250705
python
向阳@向远方10 分钟前
第二章 简单程序设计
开发语言·c++·算法
一支烟一朵花25 分钟前
630，百度文心大模型4.5系列开源！真香
人工智能·百度·开源·文心一言
喜欢吃豆31 分钟前
目前最火的agent方向-A2A快速实战构建（二）： AutoGen模型集成指南：从OpenAI到本地部署的全场景LLM解决方案
后端·python·深度学习·flask·大模型
Mr_Xuhhh41 分钟前
信号与槽的总结
java·开发语言·数据库·c++·qt·系统架构
纳兰青华1 小时前
bean注入的过程中，Property of ‘java.util.ArrayList‘ type cannot be injected by ‘List‘
java·开发语言·spring·list
好开心啊没烦恼1 小时前
Python 数据分析：DataFrame，生成，用字典创建 DataFrame ，键值对数量不一样怎么办？
开发语言·python·数据挖掘·数据分析
liulilittle1 小时前
VGW 虚拟网关用户手册 (PPP PRIVATE NETWORK 基础设施)
开发语言·网络·c++·网关·智能路由器·路由器·通信
Devil枫1 小时前
Kotlin高级特性深度解析
android·开发语言·kotlin
ChinaDragonDreamer1 小时前
Kotlin：2.1.20 的新特性
android·开发语言·kotlin
热门推荐
012024年 最新 iPhone手机 历代机型、屏幕尺寸、纵横比、分辨率 整理02Coze实战第13讲：飞书多维表格读取+豆包生图模型，轻松批量生成短剧封面03Coze扣子平台完整体验和实践（附国内和国际版对比）04MIUI显示/隐藏5G开关的方法，信号弱时开启手机Wifi通话方法05手机电脑之间快速传输图片视频文件，不压缩画质、不限制大小的方法！06扣子（coze）实战|我用扣子搭建了一个自动分析小红薯笔记内容的AI应用|详细步骤拆解07Word粘贴时出现“运行时错误53,文件未找到：MathPage.WLL“的解决方案08华为昇腾 910B 部署 DeepSeek-R1 蒸馏系列模型详细指南09DeepSeek各版本说明与优缺点分析10微软账户和本地账户有什么区别？如何切换登录账户？