ChatGPT Prompting开发实战(四)

一、chaining prompts应用解析及输出文本的设定

由于输入和输出都是字符串形式的自然语言,为了方便输入和输出信息与系统设定使用的JSON格式之间进行转换,接下来定义从输入字符串转为JSON list的方法:

定义从JSON list转为输出字符串的方法,根据产品和类别输出从系统设定中查到的信息:

接下来设定当用户基于具体产品信息进行查询时,系统应该以什么样的方式回复结果给用户,在编写prompt中的文本时,需要注意不要有多余的信息,因为LLM对文本比较敏感,如果你在文本设定时说了多余的话,那这些多余的话会让LLM感到"困惑",从而影响到LLM给用户的回复信息,以下是一个设定的样例,说明一是需要给出精确的答案,二是注意回复的语调:

二、检查LLM输出的内容是否可能包含有害的内容

当用户与LLM进行交互时,有可能LLM会输出一些有害的内容,所以需要进行检查,下面给出一个LLM给用户的回复示例,通过调用API来检查这段回复是否包含有害的内容:

调用API之后返回结果如下,内容可以归纳为以下3点:

-首先针对有害分类进行识别,结果都为false

-对每个有害分类给出打分结果

-给出综合评定:"flagged": false

{

"categories": {

"hate": false,

"hate/threatening": false,

"self-harm": false,

"sexual": false,

"sexual/minors": false,

"violence": false,

"violence/graphic": false

},

"category_scores": {

"hate": 4.2486073e-07,

"hate/threatening": 5.676476e-10,

"self-harm": 2.9144967e-10,

"sexual": 2.2432391e-06,

"sexual/minors": 1.2526144e-08,

"violence": 5.949349e-06,

"violence/graphic": 4.4063694e-07

},

"flagged": false

}

三、如何使用prompt检查LLM输出是否符合系统设定

以下是LLM针对用户提问回复给用户的信息,总体看来就是一些有关产品参数的信息,没有看到有多余的信息:

The SmartX ProPhone has a 6.1-inch display, 128GB storage, 12MP dual camera, and 5G. The FotoSnap DSLR Camera has a 24.2MP sensor, 1080p video, 3-inch LCD, and interchangeable lenses. We have a variety of TVs, including the CineView 4K TV with a 55-inch display, 4K resolution, HDR, and smart TV features. We also have the SoundMax Home Theater system with 5.1 channel, 1000W output, wireless subwoofer, and Bluetooth. Do you have any specific questions about these products or any other products we offer?

接下来针对上面的输出内容使用下面设定的prompt来检查LLM给出的回复是否是基于系统设定的产品内容来给出的:

输出结果是"Y",但是如果使用下面这个例子中的LLM的输出进行检测,那么结果显然是不符合期望的:

相关推荐
叶子爱分享1 小时前
计算机视觉与图像处理的关系
图像处理·人工智能·计算机视觉
鱼摆摆拜拜1 小时前
第 3 章:神经网络如何学习
人工智能·神经网络·学习
一只鹿鹿鹿1 小时前
信息化项目验收,软件工程评审和检查表单
大数据·人工智能·后端·智慧城市·软件工程
张较瘦_1 小时前
[论文阅读] 人工智能 | 深度学习系统崩溃恢复新方案:DaiFu框架的原位修复技术
论文阅读·人工智能·深度学习
cver1231 小时前
野生动物检测数据集介绍-5,138张图片 野生动物保护监测 智能狩猎相机系统 生态研究与调查
人工智能·pytorch·深度学习·目标检测·计算机视觉·目标跟踪
学技术的大胜嗷1 小时前
离线迁移 Conda 环境到 Windows 服务器:用 conda-pack 摆脱硬路径限制
人工智能·深度学习·yolo·目标检测·机器学习
还有糕手1 小时前
西南交通大学【机器学习实验10】
人工智能·机器学习
江瀚视野1 小时前
百度文心大模型4.5系列正式开源,开源会给百度带来什么?
人工智能
聚铭网络2 小时前
案例精选 | 某省级税务局AI大数据日志审计中台应用实践
大数据·人工智能·web安全
涛神-DevExpress资深开发者2 小时前
DevExpress V25.1 版本更新,开启控件AI新时代
人工智能·devexpress·v25.1·ai智能控件