AI大模型配置项

AI大模型配置项

下文将简述大模型通用的几个配置项。

1.temperature

取值0~2 浮点数值

temperature 翻译成中文是温度的意思,在首次看到这个参数时很困惑,大模型设置温度,很奇怪。通过翻阅说明,解释未数值越高更具创造性,数值越低越保守。对于不同类型应该设置未不同的温度,如下表所示:

根据表格总结为,一些固定的知识、法律条文,就设置较低的温度,避免自己创造。需要创造性的,则设置为高值。

2.maxToken

表示设置token的最大数量,如果超过maxtoken就终端。

在一个对话中,一次问答返回结果,不是一个token。比如这里的给大模型发送你好,返回内容是:你好!😊 有什么可以帮你的吗?,实际上使用了19个token

3.stop

截断你不想输出的内容

比如:

复制代码
	ai:
	  openai:
	    api-key: sk-e78e58b2b203474aaeae24d7d4b60034
	    base-url: https://api.deepseek.com
	    chat:
	      options:
	        model: deepseek-chat
	        temperature: 0.7
	        stop: 
	          - "\n"
	          - "###"
	          - "政治"
	          - "最后总结一下"

当返回中包含stop 里设置的关键字,会截取掉该关键字后面的所有内容。

相关推荐
TechEdu202606几秒前
[人工智能]Tianshou强化学习框架:概念、架构与工程实践
人工智能·ai·rl
努力搬砖的咸鱼8 分钟前
意图理解:让Agent从需求描述自动生成Pytest测试策略
人工智能·python·ai·单元测试·pytest·agent
水水不水啊27 分钟前
DeepSeek自带的一些插件的功能介绍
笔记·ai·deepseek·harness·dsh
workbuddy小能手35 分钟前
实战:封装一个WorkBuddy Skill,自动拉取腾讯会议AI录音笔的线下沟通上下文
人工智能·ai·workbuddy
Kings991 小时前
AI 请求参数智能生成与一键调试方法支持,Fast Request重磅发布
ai·springboot·idea插件
ONE_SIX_MIX10 小时前
llama-server 部署 Qwen3.8-27B:真正开启 512K 上下文,突破 256K 截断
ai·qwen3·llama-cpp
ebok.11 小时前
国产大模型落地业务系统的优选载体:京微智枢信创 AI 业务支撑平台
大数据·人工智能·低代码·ai
wujian831111 小时前
怎么用文心生成word文档?从格式错乱到智能导出,AI导出鸭让创作再无后顾之忧
人工智能·ai·word·豆包·deepseek·ai导出鸭
雨辰AI13 小时前
RAG 知识库搭建:基于人大金仓构建信创运维问答机器人|全栈国产化落地完整版
运维·ai·机器人·ai编程
Tezign_space13 小时前
从Chatbot到企业级智能体GEA:四种企业AI形态的架构差异和技术边界
ai·特赞·gea·企业级智能体