如何从0开始构建自己的第一个AI应用？（Prompt工程、Agent自定义、Tuning）

一、前言

• 从0开始基于自定义Agent构建AI应用，涉及从创建智能Agent到使用 、测试及优化提示词等一系列步骤。
• 前置：什么是LLM、Prompt、Mcp和Agent？

---

二、步骤一：规划和设计AI应用

• 在创建AI应用之前，你需要明确应用的目标，确定AI Agent的功能，以及它将如何与用户交互。

• 问题示例：

  • 你想要构建一个文本分析应用，能够提取文档的摘要、情感分析等。
  • 你想构建一个智能客服应用，能够自动解答客户问题。

• 确定目标后，设计好功能，包括：

  • 输入（例如，用户的问题或文档）。
  • 输出（例如，智能回答、情感分析的结果）。

---

三、步骤二：选择技术栈

• 基于AI应用的需求，选择合适的技术栈。
• 以Python为例，常用的技术栈如下（注：Java生态圈庞大，相关技术栈感兴趣可以百度，一堆）：
• 自然语言处理（NLP）工具 ：
  • GPT-3 或 GPT-4（OpenAI 提供的语言模型，适合文本生成、理解等任务）
  • Hugging Face Transformers（包含了大量预训练的NLP模型）
  • spaCy（强大的自然语言处理工具，适用于实体识别、句法分析等）
• 后端框架 ：
  • Flask / FastAPI（适合快速构建Python应用）
  • Django（适合构建复杂的Web应用）
• 前端框架 ：
  • React（前端开发的流行框架）
  • Vue.js（简洁的前端框架）
• 数据库 ：
  • MongoDB / PostgreSQL（存储应用数据、用户信息等）
  • Weaviate （向量数据库）

---

四、步骤三：创建自定义Agent

• 在构建AI应用时，你需要定义一个智能Agent，它负责处理用户请求并给出智能响应。
• 我们可以通过提示词（Prompt）+ MCP 构建。
• 1.Agent设计：
  • 选择合适的AI模型（例如，GPT-3、GPT-4）。
  • 通过API请求与模型交互。
  • 设计提示词模板，帮助AI模型理解任务目标。
• 示例：自定义Agent

import openai

openai.api_key = "your-api-key"

def ai_agent(prompt):
    """
    自定义AI Agent
    """
    response = openai.Completion.create(
        model="text-davinci-003",  #模型名称
        prompt=prompt,             #提示词
        max_tokens=100,			   #最大token限制
        temperature=0.7,           #温度
    )
    return response.choices[0].text.strip()  #回答结果

• 2.设计提示词：
  • 对于不同的任务（如问答、情感分析、文本生成），你需要设计相应的提示词。
  • 确保提示词简洁明了，能够明确表达任务目标。
• 示例： 问答任务的提示词

def generate_prompt(user_question):
	# 1.静态写死  / 2.提示词和代码隔离，提示词写进单独文件，程序读取
    prompt = f"""
    You are a highly knowledgeable AI assistant. Your task is to answer the following question concisely and accurately:
    Question: {user_question}
    Answer:
    """
    return prompt

---

五、步骤四：构建用户接口

• 用户将与AI应用交互，你需要构建合适的用户接口来处理输入和输出。
• 1.后端接口（例如，使用Flask构建API）：
  • 创建一个API，用于接受用户请求，调用AI Agent，返回结果。

from flask import Flask, request, jsonify

app = Flask(__name__)

@app.route('/ask', methods=['POST'])
def ask():
    user_question = request.json.get('question')
    prompt = generate_prompt(user_question)
    answer = ai_agent(prompt)
    return jsonify({"answer": answer})

if __name__ == '__main__':
    app.run(debug=True)

• 2.前端界面（使用React）：
  • 创建一个React前端，用于展示AI生成的答案，并且支持用户输入。
  • 提交表单将用户输入发送给后端API，获取AI的响应。

import React, { useState } from 'react';

function App() {
    const [question, setQuestion] = useState('');
    const [answer, setAnswer] = useState('');

    const handleSubmit = async (e) => {
        e.preventDefault();
        const response = await fetch('/ask', {
            method: 'POST',
            headers: { 'Content-Type': 'application/json' },
            body: JSON.stringify({ question }),
        });
        const data = await response.json();
        setAnswer(data.answer);
    };

    return (
        <div>
            <form onSubmit={handleSubmit}>
                <input
                    type="text"
                    value={question}
                    onChange={(e) => setQuestion(e.target.value)}
                    placeholder="Ask me anything"
                />
                <button type="submit">Submit</button>
            </form>
            <div>{answer && <p>Answer: {answer}</p>}</div>
        </div>
    );
}

export default App;

---

六、步骤五：调整和优化提示词

• 提示词的质量直接影响AI生成结果的准确性。
• 如果AI的答案不准确，可以通过调整提示词，明确更多细节。
• 例如，如果AI无法理解某些问题，你可以引导它通过提问方式进行进一步细化。

---

七、步骤六：集成AI结果处理

• 处理AI生成的结果，并将它与用户界面交互结合，进行进一步的优化。可以根据实际需求添加更多功能：
• 反馈机制：用户可以为AI的答案打分，帮助进一步优化。
• 动态调整提示词：基于用户输入的反馈，自动调整AI生成提示词。

---

八、步骤七：测试与部署

• 测试AI应用并确保其在生产环境中的稳定性。
• 你可以选择将应用部署到云平台（如AWS、Heroku、GCP等），或者将其部署在本地。
• 部署示例：
  • 使用Docker容器化你的应用。
  • 使用CI/CD工具自动化部署流程。

---

九、简单用例

• 用户输入：

我想了解Python中关于多线程的内容

• Agent输出：

Python中的多线程是指能够同时执行多个线程的技术。
Python通过`threading`模块提供了对多线程的支持，可以创建多个线程来实现并发任务...

---

十、总结

• 1.通过设计自定义Agent来处理用户请求。
• 2.使用提示词（Prompt）帮助Agent理解任务。
• 3.提供API与前端交互，实时响应用户问题。
• 4.优化提示词和AI生成结果，提升用户体验。