通过API来定义模型
模型的属性
model
就是定义你要使用的模型,要搭配你的apikey,和调用uri
temperature
temperature 是大模型里控制输出随机性、创造性 的核心参数，取值范围一般是 0 ~ 2。
原理简单理解： 大模型预测下一个字的时候，会算出一堆候选词的概率。
- temperature 越小：优先选概率最高的词，结果稳定、重复度高、少脑洞。
- temperature 越大 ：会压低高概率词、放大冷门词的概率，更容易选到概率低的词，输出更有创意，但容易胡编乱造。
当temperature=0
当temperature=2
Temperature 参数用来调节大语言模型生成文本的随机性。取值范围 0~2。数值越低，模型越倾向选择概率最高的 token，输出更加确定、保守；数值越高，会增加采样的随机性，生成内容创造性更强，但更容易产生幻觉。
max_tokens
max_tokens=10 限制模型最多输出 10 个 token。> 中文 1token≈0.75 个汉字，10token 大概只能输出 7~8 个汉字。
openai_api_key
OpenAI API 密钥。如果未传入，将从环境变量 OPENAI_API_KEY 读取。
如果你调用线上 API 服务商： 必须填服务商给你的真实密钥。
base_url
API 请求的基础 URL。
- 作用：修改接口请求地址
两者相互配合来进行使用
以上是一些基本的属性
调用方法
ChatOpenAI
init_chat_model
如果我们不给模型的类型会怎么样
他就会直接发生报错
我们可以再invoke的第二个参数配置一些模型,和模型提供者,除此之外也可以添加其他内容
还可以配置参数
再模型初始化的时候可以给一个可变域,那么之后就可以改变可变域的内容