prompt提词是gpt工程的一个核心, 一个prompt多一个空格少一个空格就可能会出现两种结果.这里介绍一些实战中的经验.
根据场景设置temperature和top_k
temperature越大,top_k越小返回的结果就越稳定, 对于信息提取,意图识别, 意图判断这种非创造性的可以调整这两个值,降低幻觉程度.反之写作创造就应该作出反向的调整.
避免术语关键字的key来影响意图
比如你想让gpt返回个json, 定义下面两种结构.
python
# order 和 desc是通用关键字,好处就是可以联想更多的意图,比如升序识别成ASC,缺点就是你不可控
{
"order":"DESC"
}
会降低默认意图,好久就是降低幻觉
{
"ord":"d"
}
通过溯源降低幻觉
这个网上一把把的, 不多说,简单来讲就是你给我个结论, 我需要你的出处,这个出处可以是文档地址,也可以关键字, 然后根据你的要求可以通过出处有没有内容,在不在某个字典等判断