Prompt管理技巧

"Prompt工程"（Prompt Engineering）是指设计和优化提示词（prompt）以引导大型语言模型（如ChatGPT、GPT-4等）生成更符合预期输出的过程和方法。它是一种利用语言模型的能力，通过构造特定的输入，来达到高质量输出的技术手段。

Jinja2 是一个用来生成动态网页内容的 Python 模板引擎，它的主要作用是将 Python 中的数据渲染到 HTML 页面中。但在本项目中jinja2可以用于自动化生成prompt模板。

Prompter

null 复制代码

from pathlib import Path
from jinja2 import Environment, FileSystemLoader
from typing import Dict, Any

class PromptEngine:
    def __init__(self, template_dir: str = "prompts"):
        self.env = Environment(
            loader=FileSystemLoader(template_dir),
            trim_blocks=True,
            lstrip_blocks=True
        )
    
    def render(self, template_name: str, variables: Dict[str, Any]) -> str:
        template = self.env.get_template(f"{template_name}.jinja2")
        return template.render(**variables)

prompt_engine = PromptEngine()

代码首先指明了存放prompt的目录，然后根据template_name找到对应的prompt，再将对应的属性进行填充。

示例prompt

python 复制代码

#predict
你是中华人民共和国最高人民法院的一位资深刑事审判法官，请你根据下方【案件事实】、【相关法条】进行法律分析，并严格按照下方【分析要求】撰写分析意见，适用于刑期量化与判决指导。

【案件事实】
{{fact}}

【相关法条】
{{context}}

【撰写要求】
1. 禁止使用"可能""大致"等模糊措辞，需做出明确、定量的法律判断。
2. 禁止引用未在《刑法》《司法解释》明示规定的酌定情节。
3. 所有刑期须在法定幅度内给出，表述方式为"X年X月"。
4. 金额需具体精确到"元"，不得使用"约""大约"等模糊词。
5. 若为死刑案件，必须引用《刑法》第四十八条。
6. 若为经济犯罪，需说明违法所得数额及其计算方式。
7. 若为共同犯罪，必须区分主犯、从犯及其责任承担，并说明定罪量刑差异。


【结束符号】

其中的案件描述以及相关法条就需要进行填充。

相关法条通过使用rag技术查询语义相关的法条，然后输入模型对结果进行预测

【结束符号】用于标注结果，将模型的输出于prompt分开