如何调试QWEN-1.8B模型的prompt来达到预期效果

这一段时间都在学习与预研大模型技术,目前采用的模型是用hugging-face上的Qwen-1.8B参数级别的模型, 本地部署启动, AMD 630 16G显卡,启动与推理都没什么压力

这几天碰到一个比较有意思的问题, 我想通过使用模型的NLP能力来进行意图分析,通过构造提示词模版来达到预期效果:

如图, 想让大模型按照我的提问来返回对应的答案,在实际使用场景中, 正确率只有50-60%左右,

很多时候会与模版中的希望返回的答案不匹配,同样的问题在通义千问的官网的回答基本都是准确的:

不知道有没有了解的大佬们看下到底是什么原因引起的这种问题,是要调整prompt还是要调整模型的参数?

相关推荐
0x2111 小时前
[论文精读]StruQ: Defending Against Prompt Injection with Structured Queries
prompt·提示注入攻击
一 铭5 小时前
AI领域新趋势:从提示(Prompt)工程到上下文(Context)工程
人工智能·语言模型·大模型·llm·prompt
悟乙己16 小时前
通过Claude 生成图片的prompt集锦(一)
prompt·claude·李继刚
逻辑018 小时前
Prompt:提示词工程
prompt
AIGC包拥它2 天前
提示技术系列——链式提示
人工智能·python·langchain·prompt
摸鱼仙人~2 天前
Prompt Engineering Guide — 提示工程全方位指南
prompt
非英杰不图2 天前
论文阅读:Align and Prompt (ALPRO 2021.12)
论文阅读·prompt
静心问道2 天前
Prompt Depth Anything:以提示方式驱动的Depth Anything用于实现4K分辨率下的精确米制深度估计
prompt
fightingwy2 天前
01 Prompt Enginering
prompt
cg501715 天前
OpenAI的Prompt工程
人工智能·prompt